Yapay zeka devi Anthropic'ten çarpıcı rapor: Biyolojik silah geliştirmeye çalışan kullanıcılar tespit edildi

Yapay zeka alanının önde gelen şirketlerinden Anthropic, kendi teknolojisinin kötüye kullanımını tespit etmek ve bu konuda önlem almak amacıyla kapsamlı bir rapor yayımladı. Şirket, yapay zeka modellerinin karşı karşıya olduğu en büyük tehditlerden birinin "biyolojik kötüye kullanım" olduğunu vurguladı.

Yapay zeka ve biyolojik risk endişesi

Raporda, yapay zeka teknolojisinin mevcut patojenleri daha tehlikeli hale getirme ya da tamamen yeni patojenler üretme kapasitesine ulaşabileceğine yönelik endişelerin uzun süredir gündemde olduğuna dikkat çekildi. Bu riskin, sektörün en kritik tartışma konuları arasında yer aldığı belirtildi.

Tespit edilen şüpheli faaliyetler

Anthropic raporunda, kendi yapay zeka modellerini biyolojik silah geliştirme süreçlerinde kullanmaya çalışan kişilere ilişkin çarpıcı örneklere yer verdi. Bu vakalardan birinde, desteklenmeyen bir bölgede faaliyet gösteren bir araştırmacının, Claude üzerinden kuş gribinin memelilere adaptasyonu konusunda deneyler planlamaya çalıştığı tespit edildi.

Başka bir örnekte ise devlet destekli bir araştırmacının, toksinleri bilgisayar ortamında yeniden tasarlamaya yönelik girişimde bulunduğu kaydedildi. Her iki vakanın da şirket tarafından tespit edilmesinin ardından ilgili kullanıcıların hesaplarının derhal engellendiği ve gelecekte benzer faaliyetlerin önlenmesi için yeni adımlar atıldığı bildirildi.

"Kötü niyetli" iddiasında bulunulmadı

Anthropic, raporunda söz konusu kullanıcıların "kötü niyetli" bireyler olduklarına dair bir iddia ileri sürülmediğini, yalnızca tedbir amaçlı hareket edildiğinin altını çizdi. Şirket yetkilileri, "Bu örnekleri paylaşarak yapay zeka sektöründe ortaya çıkan biyolojik riskler ve bunlara en etkili şekilde nasıl karşı konulabileceği konusunda bir diyalog başlatmayı umuyoruz" ifadesini kullandı.

Şirketten istifa eden isim gündem oldu

Öte yandan, Anthropic çalışanı Jacob Coxon'un, yapay zekanın "gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelebileceği" uyarısında bulunarak şirketten istifa ettiğini açıkladığı paylaşım, sosyal medyada milyonlarca kez görüntülenmiş ve geniş yankı uyandırmıştı. Bu gelişme, yapay zeka güvenliği tartışmalarının ne denli kritik bir boyuta ulaştığını bir kez daha gözler önüne serdi.