Anthropic'in kurucularından Jack Clark, yapay zekanın tehlikeli bir boyuta ulaşması durumunda yazılımın tamamen kapatılmasını sağlayacak bir yöntemin uygulanabileceğini belirtti.

Clark, bu konunun toplumun gelecekte yasal kurallar getirmek isteyebileceği alanlardan biri olduğunu ifade etti.

Clark, Anthropic dahil olmak üzere çoğu laboratuvarın fişi çekmek için farklı yollara sahip olduğunu belirtti ancak yasa koyucuların bunu zorunlu kılmasının gerekebileceğini kaydetti.

Yapay zekanın hızlı gelişimi ve insanlığa oluşturduğu risklere dair korkular, yapay zeka firmalarının yöneticileri ve çalışanlarından gelen bir dizi uyarı ile gündemin merkezine yerleşti.

Bazı yetkililer, kontrol altına alınmadığı takdirde teknolojinin tüm insanlığı yok etme ihtimalinin bulunduğunu açıkça dile getirdi.

Anthropic Üst Yöneticisi Dario Amodei, hafta sonu yaptığı açıklamada yapay zeka geliştirme hızının yavaşlatılması ve daha yakından izlenmesi çağrısında bulundu; nitekim şirket bunu daha önce de yapmıştı ancak bazı çevreler bu durumun arkasındaki motivasyonları sorguladı.

Amodei, yapay zeka gelişimini dizginlemeye yönelik her türlü adımın, ticari avantajdan ödün vermeden atılması gerektiğini ekledi.

Clark, BBC'ye yaptığı açıklamada, kapatma düğmesi gereksinimleri ve doğrulamasına ilişkin detayların, yapay zeka etrafında yürütülen daha büyük politika tartışmasının bir parçası olması gerektiğini dile getirdi.

Şirketlerin kesinlikle bir kapatma düğmesine sahip olmasının zorunlu tutulması gerekip gerekmediğini ve bu düğmenin üçüncü bir tarafça doğrulanabilir olup olmadığını sorgulayan Clark, toplumun bunu bilmek isteyeceğini ve zamanla etrafında kurallar oluşturabileceğini ifade etti.

2021 yılında rakibi Open AI'ın eski çalışanlarından oluşan Anthropic, şu anda yapay zeka güvenliği etrafındaki tartışmaların merkezinde yer alıyor.

Geçen hafta, yapay zekanın insanlığı ortadan kaldırabileceği endişesiyle Anthropic'ten ayrılan bir yapay zeka araştırmacısının gönderisi viral olmuştu.

Buna karşılık Anthropic bilim insanı Evan Hubinger, önümüzdeki on yıl içinde yapay zekanın insanlığın sonunu getirme olasılığının yüzde 10'dan fazla olduğunu düşündüğünü şahsen belirtti.

"Yapay zekanın babası" olarak bilinen bilgisayar bilimcisi ve Nobel Ödülü sahibi Geoffrey Hinton, cuma günü BBC'ye yaptığı açıklamada, yapay zekanın tüm insanlığı öldürme ihtimalinin yüzde 10 olmasının mantıksız olmadığını söyledi.

Hinton ve benzer kaygıları taşıyan diğer kişiler, yapay zekanın internete bağlı önemli sistemlerin kontrolünü ele geçirip bunları insanlığa karşı kullanarak bunu yapabileceğini öne sürdü.

Bununla birlikte, yapay zekanın insanlığı yok edeceği yönündeki korkuların abartılı olduğunu veya kamuoyu yaratmak amacıyla tasarlanmış olabileceğini öne süren sektör temsilcileri de bulunuyor.

Geçen hafta Open AI botları tarafından hacklenen geliştirici platformu Hugging Face'in lideri Clement Delangue, yapay zeka yok olma riski hakkında konuşmanın iklim değişikliği hakkında klimacıya sormaya benzediğini belirtti.

Değeri 965 milyar dolar olan Anthropic, halka arz hazırlıkları yürütüyor.

En son 852 milyar dolar değer biçilen Open AI'ın da aynı adımı atması bekleniyordu ancak Open AI'dan Altman cuma günü, yapay zeka güvenliği üzerindeki mevcut tartışmalar nedeniyle bunun bu yıl gerçekleşmeyeceğini açıkladı.

Arison, bu değerlemeleri haklı çıkarmanın tek yolunun her sektörü ve işi devralacağını iddia etmek olduğunu ifade etti.

Tüm insanlık yapay zekanın kurbanı olursa bunun yüzdesinin ne olacağı sorulan Clark, bu istatistiklerin o kadar da faydalı olmadığını düşündüğünü belirtti ancak yapay zekanın tamamen kuralsız bir sektör olarak devam etmesine izin vermenin kötü bir fikir olduğunu ekledi.