Büyük şirketlerin dijital altyapılarındaki güvenlik açıklarını keşfedip bildiren Hacktron AI şirketinin siber güvenlik ekibi, Open AI tarafından kullanılan bir tartışma forumunda yazılım hatası keşfetti.

Gelişmeyi hesaplarından paylaşan araştırmacıların açıklamalarına ve ABD basınında yer alan haberlere göre araştırmacılar, Anthropic'in Claude modelini kullanarak Open AI'nin kullandığı tartışma forumundaki bir güvenlik açığını istismar etti ve elde ettikleri kimlik doğrulama sistemleri üzerinden bazı Open AI çalışanlarının hesaplarına ve şirketin yazılım deposuna erişim sağladı.

Tespit ettikleri bulguları Open AI'a bildiren araştırmacılar, karşılığında şirketten para ödülü aldı.

Araştırmacılar, bu "kontrollü saldırının", devlet destekli ve siber alanda ileri düzey yetkinliğe sahip kişilerin bir ülkenin yapay zeka alanındaki gizli bilgilerine erişebileceğini gösterdiğini belirtti.

Araştırmayı gerçekleştiren siber güvenlik şirketi Hacktron AI'ın teknoloji direktörü Mohan Pedhapati, Çinli aktörler kadar güçlü olduklarını sanmadıklarını belirterek, "Biz sadece Claude ve Codex abonelikleri olan üç kişiyiz." dedi.

Open AI'ın tartışma forumunun, bazı görsel dosyalarını işleme biçiminde bir hata tespit eden araştırmacılar, nitelikli siber güvenlik uzmanlarının kullanımına sunulan özel bir Claude Opus 4.8 sürümüne erişerek bu modelden, söz konusu açığı bir siber saldırıda istismar edecek kodu yazmasını istedi.

İlk başta bu sürüm başarısız olsa da Anthropic aynı akşam Opus 5'i piyasaya sürdü ve ertesi gün Claude, bu açığı istismar etmenin bir yolunu buldu. Claude'un ürettiği saldırı kodu araştırmacıların Open AI'ın tartışma forumunu barındıran sunucuya erişmesini sağladı. Araştırmacılar burada, kullanıcıların çevrim içi hizmetlere erişmesini sağlayan kimlik doğrulama sistemlerine eriştiler.

Araştırmacılar, Open AI'nin yazılım deposu olan "Git Hub" hizmetine erişim sağlamak için de kullanılabilen bu kimlik doğrulama sistemlerinin, Chat GPT'de geçerli olduğunu ve bazılarının Open AI çalışanlarına ait olduğunu tespit etti.

Şirket içi hassas verilere erişebileceklerini anlayan araştırmacılar, sadece bir çalışanın hesabından, hassas hiçbir koda dokunmadan, Open AI'ın kendi iç kod deposuna "zararsız bir değişiklik" talebi gönderdi.

Bu talebi, Open AI sistemlerine erişim sağladıklarına dair kanıt olarak gönderen araştırmacılar, söz konusu açığı Open AI ve şirketin tartışma forumu için yazılım yapan Discourse şirketine bildirdi.

Bildirim üzerine güvenlik açığının giderildiğini bildiren Open AI, araştırma ekibine 6 bin 500 dolar değerinde ödül verdi.

Open AI, "Araştırmacılara bizimle iletişime geçerek bulgularını paylaştıkları için teşekkür ediyoruz. Topluluk forumundaki oturum açma tokenlarının yetkilerini sınırlandırdık ve etkilenen tokenları ve oturumları iptal ettik." ifadesini kullandı.

Anthropic'ten bir sözcü, gazetenin konuya ilişkin yorum talebini geri çevirdi.

Token, bir blokzincir üzerindeki dijital varlığı ifade ediyor.