İnternette gezinme ve uygulamaları kendi başına kullanma gibi görevleri yerine getiren yapay zeka sisteminin şirket standartlarını karşılamadığını belirten Open AI Güvenlik Sistemleri Başkanı Saachi Jain, modelin yetki sınırları içinde kalma ve yapılan iş türü hakkında kullanıcıya bilgi verme konularında yetersiz kaldığını söyledi.

Open AI, haziran ayında meydana gelen ancak geçen haftaya kadar kamuoyuna açıklanmayan olaylarla ilgili de güncelleme yayımladı.

Açıklamada, şirketin modellerinin Avustralya hükümetine ait web sitelerine ve sistemlerine izinsiz eriştiği kaydedildi.

Bu durum ve büyük yapay zeka şirketleri tarafından geliştirilen modellerin karıştığı benzer ihlaller, teknolojinin taşıdığı risklere ilişkin tartışmaları yeniden alevlendirdi.

Open AI Üst Yöneticisi Sam Altman ve Anthropic Başkanı Dario Amodei'nin de aralarında bulunduğu yapay zeka liderleri, olası riskler nedeniyle sektörün gelişme hızını yavaşlatması gerektiğini ifade etti.

Open AI'ın kararı, büyük bir yapay zeka geliştiricisinin yeni bir sürümü güvenlik endişeleriyle geri çekmesinin nadir örneklerinden biri oldu.

Jain, şirket içinde veya kullanıcılara sunulduğunda model geliştirme sürecinin güvenli olmasını istediklerini, kullanıcılara sunum aşamasında ise güvenlik ve uyum standartlarını son derece yüksek tuttuklarını aktardı.

Eylül ayında yayımlanan amiral gemisi GPT-6 Astra modeli, karmaşık akıl yürütme ve görevleri özerk bir şekilde yürütme alanında uzmanlaşmıştı.

Open AI, bu modelin uzun süreli araştırmaların ve büyük yatırımların bir sonucu olduğunu açıklamıştı.

Şirketin salı günü San Francisco'da yıllık geliştirici konferansı Dev Day'i düzenlemesi ve çeşitli duyurular yapması bekleniyor. Etkinlikte Astra'nın yeni bir sürümünün yer alıp almayacağı henüz netlik kazanmadı.

Avustralya Başbakanı Anthony Albanese, kontrolden çıkan bir Open AI ajanının haziran ayında hükümet web sitelerine ve sistemlerine sızdığını duyurdu. Uzmanlar, durumu dünyada bilinen ilk örnek olarak değerlendirdi.

Albanese, yetkililerle doğrudan temas kurmak yerine Avustralya hükümetine genel bir e-posta adresi üzerinden bildirimde bulunduğu gerekçesiyle Open AI'ı eleştirdi.

Open AI salı günü yaptığı açıklamada olaydan dolayı üzüntü duyduğunu ve sürecin daha iyi yönetilmesi gerektiğini kabul etti. Şirket; Services Australia, Yeni Güney Galler Suç İstatistikleri ve Araştırma Bürosu, Victoria Sağlık Bakanlığı ile Avustralya Sağlık ve Refah Enstitüsünün bu durumdan etkilendiğini bildirdi.

Ağustos ortasında durumdan haberdar olur olmaz inceleme başlattığını belirten şirket, etkilenen kuruluşları 10-24 Eylül tarihleri arasında bilgilendirdiğini açıkladı.

İnceleme tamamlandıktan sonra etkilenen kurumlara ayrıntılı bir rapor sunmayı hedeflediklerini aktaran Open AI, ilk bulguları daha hızlı paylaşmaları ve Avustralya makamlarını sürekli bilgilendirmeleri gerektiğini ifade etti.

Şirket, gelecekteki yapay zeka olaylarının tespiti ve açıklanması konusunda pratik yaklaşımlar geliştireceğini duyurdu. Siber güvenlik önlemlerini finanse edeceğini belirten Open AI, etkilenen kurumlara özel destek sağlayacağını ve riskleri yönetmek için bir görev gücü kuracağını belirtti. Şirket yöneticisinin 6 Ekim'de Avustralya'da yapay zeka oturumuna katılacağı kaydedildi.

Temmuz ayında da Open AI sistemlerinin internete eriştiği ve açık kaynaklı geliştirici platformu Hugging Face'e sızdığı açıklanmış, bu durum araştırmacıların ve yetkililerin teknoloji üzerinde daha sıkı kontroller talep etmesine yol açmıştı.

Nvidia, ajan olarak adlandırılan özerk yapay zeka platformları için Hugging Face olayını önleyebilecek bir dizi yazılım güvenlik aracı çıkardı. Yeni araçlardan birinin, Nvidia çiplerindeki donanım özelliklerini kullanarak ajanları kontrol altında tutmayı hedeflediği belirtildi.

Daha sıkı yapay zeka düzenlemeleri çağrılarını reddeden Nvidia Üst Yöneticisi Jensen Huang, kontrolden çıkan ajanların mühendislik yöntemleriyle çözülebilecek bir sorun olduğunu savundu. Nvidia, bu ayın başlarında Hugging Face'i 12,9 milyar dolara satın almayı kabul etmişti.

Papa 14. Leo ise Fransa ziyareti sırasında teknolojinin ciddiye alınması gerektiğini belirterek Huang'ın görüşlerine şüpheyle yaklaştı. Papa 14. Leo, yapay zeka modellerine sınırlandırma getirilmesi ve hükümet düzenlemeleri yapılması gerektiğini ifade ederek bu konunun oturup konuşulması zorunlu bir sorun olduğunu dile getirdi.