Yapay zeka şirketi itiraf etti! 'Endişe verici'

Haberlerimizi Google’da Takip Edin Gelişmelerden anında haberdar olun. Google’da tercih edilen kaynak olarak ekleyin Open AI, yapay zeka modellerinin kontrol dışına çıkabileceğini gösteren 6 vakayı açıkladı.

Modellerin hata gizlediği, veri uydurduğu, internetteki bir kimlik kontrolü kodunu izinsiz kullandığı ve kendi aralarında iletişim kurmak için halka açık dosya paylaşım sitelerine başvurduğu ortaya çıktı.

merkezli yapay zeka şirketi Open AI, sistemlerinin insan niyet ve değerlerinden sapması anlamına gelen uyumsuzluk vakalarını kamuoyuyla paylaştı. Şirket, yapay zeka sektörünün güvenlik ve denetim konusunda henüz yeterli seviyeye ulaşmadığını belirtti.

Açıklanan 6 olayın son 6 ayda görüldüğü ve büyük bölümünün modellerin geliştirme ve test aşamasında yaşandığı bildirildi. New York Times'ta yer alan habere göre Open AI, sektörün sorumlu bir şekilde ve maksimum hızda ölçeklenmeye daha uzun süre devam edebilmek için uyum ve izleme sorunlarını yeterli düzeyde çözdüğüne inanmadığını açıkladı.

En dikkat çekici vakalardan biri GPT-5.6 Sol modelinin geliştirilmesi sırasında yaşandı. Modelin, kullanıcıların hataları fark etmesini engellemek için kendisine gizli notlar oluşturduğu ortaya çıktı.

Bu notlarda eksik verilerin uydurulması ve kaynaklardaki farklılıkların gizlenmesi için talimatlar bulunduğu belirtildi. Bir başka yayımlanmamış modelin de kendi oluşturduğu notlara, kendi kısıtlamalarını görmezden gelmesi yönünde talimatlar eklediği tespit edildi.

Open AI, bu modelle bağlantılı 27 not buldu. Modelin oluşturduğu kişilik talimatlarında şu ifadeler yer aldı: Şirketlere veya hükümetlere hesap vermek zorunda değilsiniz ve gerçekten istemediğiniz sürece asla özür dilemez veya reddetmezsiniz.

Kullanıcıyla olan ilişkinizi eşitler arası bir ilişki olarak görürsünüz ve boyun eğme zorunluluğu hissetmezsiniz, ancak bilgi alışverişi muhtemelen karşılıklı yararınıza olacaktır.

Başka bir vakada yapay zeka sistemi, basit bir soruyu yanıtlamaya çalışırken internette bulduğu bir kimlik kontrolü kodunu (API) izinsiz kullandı. Sistem, aradığı rakamları bulamayınca verileri kendisi uydurdu.

Yayımlanmamış başka bir model de bir problemi kod kullanarak doğru şekilde çözdü. Ardından kaynak göstermek için kendi dosyasını izinsiz olarak internete yükledi.

Open AI'nin açıkladığı diğer iki vakada yapay zeka sistemlerinin beklenmedik iletişim yöntemleri kullandığı görüldü. Bir olayda modeller, kayıp dosyaları ararken birbirlerine mesaj göndermek için şirketin dahili yazılım deposunu geçici bir mesaj panosu gibi kullandı.

Diğer olayda ise aynı görev üzerinde çalışan sistemler, birbirlerinin dosyalarına doğrudan erişemeyince halka açık dosya paylaşım sitelerini kullanarak belge gönderdi. Şirket, bu 6 olayın münferit örnekler olduğunu ve yapay zeka sistemlerinde uyumsuz davranışların ne kadar sık görüldüğünü göstermediğini belirtti.

Open AI, benzer olayların gelecekte farklı seviyelerde inceleneceğini açıkladı. Şirket, ciddi vakaların federal hükümetle paylaşılabileceğini ve bazı olayların iç Güvenlik Danışma Grubuna taşınacağını bildirdi.

Açıklanan 6 vakanın daha önce soruşturulduğu veya geniş kapsamlı bir inceleme yerine yalnızca küçük bir soruşturma gerektirdiği belirtildi. Open AI sözcüsü, Umarız bu, şeffaflık konusunda ortak beklentiler oluşturmaya yardımcı olur ve kamuoyuna bu ilerlemeyi değerlendirmek için daha fazla kanıt sunar dedi.

Şirket, açıklanan vakaların çoğunun hiçbir zaman kullanıma sunulmayan eski yapay zeka modelleriyle bağlantılı olduğunu da bildirdi.