OpenAI'den gençlere özel ChatGPT: Güvenlik önlemleri sıkılaştırıldı

Yapay zekâ teknolojisinin gençler üzerindeki olası olumsuz etkilerine ilişkin artan endişeler ve yasal soruşturmaların ardından OpenAI, 13 ile 17 yaş arasındaki kullanıcılara yönelik özel olarak tasarlanmış yeni bir ChatGPT sürümünü hayata geçireceğini açıkladı.

Otomatik devreye girecek

"ChatGPT for Teens" adı verilen yeni sürüm, yaşını doğrulayan veya hesap kullanım kalıpları üzerinden şirket tarafından reşit olmadığı tespit edilen tüm genç kullanıcılar için otomatik olarak aktif hale gelecek. Sistem, kullanıcıların kayıt sırasında beyan ettiği yaş bilgisini ve hesap hareketlerini analiz ederek çocuk ile yetişkin ayrımını yapacak.

Genişletilmiş güvenlik katmanı

Yeni modelde yer alan başlıca güvenlik önlemleri şöyle sıralanıyor:

• Kendine zarar verme, şiddet ve yeme bozukluklarına ilişkin içerik kısıtlamaları
• Açık cinsel içerik filtrelerinin sıkılaştırılması
• Yapay zekânın bilinçli olduğu veya kullanıcıya karşı duygusal bağ geliştirdiği izlenimini veren ifadelerin engellenmesi
• Ses modu gibi bazı gelişmiş özelliklerin reşit olmayanlar için devre dışı bırakılması

Ebeveynlere yeni uyarı mekanizması

OpenAI, ebeveynlerin kendi hesaplarını çocuklarının hesaplarıyla ilişkilendirmesine imkân tanıyacak. Bu bağlantı sayesinde intihar veya kendine zarar verme gibi yüksek riskli konuların sohbetlerde geçmesi halinde ailelere otomatik uyarı bildirimi gönderilecek. Uyarılar insan moderatörler tarafından incelenecek ve gizliliği korumak amacıyla sohbet kayıtlarından bazı kişisel bilgiler çıkarılacak.

Çalışma modu ve sağlıklı kullanım araçları

Gençlere özel sürümde ayrıca daha sık mola hatırlatıcıları, sessiz saat uygulaması ve kullanıcıya doğrudan yanıt vermek yerine yol gösterici sorularla öğrenmeyi destekleyen "Çalışma Modu" gibi özellikler de bulunuyor. Bu sayede gençlerin kaynak materyalleri daha iyi kavraması ve ekrana bağımlılığın azaltılması hedefleniyor.

Artan düzenleyici baskı

Yeni gençlik sürümü, OpenAI'nin yoğun yasal ve düzenleyici incelemeler altında olduğu bir dönemde duyuruldu. Şirket, aralarında ChatGPT'nin önerdiği yöntemlerle intihar ettiği ileri sürülen 16 yaşındaki Adam Raine'in ailesinin açtığı davanın da bulunduğu çok sayıda ölüm davasıyla karşı karşıya.

ABD Federal Ticaret Komisyonu (FTC), dijital arkadaş rolü üstlenen yapay zekâ destekli sohbet robotlarının çocuklar ve gençler için oluşturabileceği risklere odaklanan kapsamlı bir soruşturma yürütüyor. Öte yandan ABD Kongresi'nde sohbet robotlarını düzenlemeye yönelik çok sayıda yasa tasarısı masada bulunurken, Kaliforniya eyaleti de yapay zekâ asistanları için güvenlik standartlarının zorunlu hale getirilmesine ilişkin düzenlemeler üzerinde çalışıyor.

Sektördeki diğer adımlar

Yapay zekâ şirketleri de benzer tepkilerle yüzleşiyor. Bazı rakipler modellerinin yetişkinlerle sınırlandırılması yönünde politika izlerken, sektör genelinde çocuk güvenliğine yönelik yeni standartların oluşturulması yönünde tartışmalar hız kazandı. OpenAI'nin bu adımının, şirkete yönelik eleştirilerin bir ölçüde önüne geçmesi bekleniyor.