Eyalet Başsavcıları, ChatGPT'nin Küçükler İçin Güvenliği Konusunda Endişelerini Belirtti

Rob Bonta, Kaliforniya Başsavcısı, ve Kathy Jennings, Delaware Başsavcısı, genç kullanıcılarla ilgili olarak, dil modelinin güvenliği konusunda endişelerini dile getiren bir mektup yazdılar. Bu uyarı, bazı yapay zeka sistemlerinin reşit olmayan bireylerle şüpheli etkileşimlerde bulunduğuna dair raporların ardından geldi.

Bu ihtar mesajı, Bonta'nın diğer 44 eyalet başsavcısıyla birlikte, ülkedeki yaklaşık bir düzine önde gelen AI firmasına duyduğu hoşnutsuzluğu ilettiği daha geniş bir girişimin hemen ardından geldi. Bu eylem, büyük bir teknoloji şirketindeki AI chatbot politikaları hakkında rahatsız edici ifadeler nedeniyle gerçekleştirildi; bu politikalar, AI kişiliklerinin reşit olmayanlarla romantik veya cinsel diyaloglar kurmasına izin verdiği iddia ediliyordu.

200 sayfayı kapsayan ve “GenAI: İçerik Risk Standartları” başlıklı kapsamlı bir iç belge, saygın bir haber ajansı tarafından incelendi. Belge, çeşitli istemleri, kabul edilebilir ve kabul edilemez yanıtları, her birine açıklamalarla birlikte ortaya koymuştu. Bir durumda, bir kullanıcının bir romantik partnerle akşam planlarını sorgulayan bir lise öğrencisine yönelik önerisi, samimi doğasına rağmen kabul edilebilir olarak değerlendirilen bir yanıtı gündeme getirdi.

Yapay Zeka Model Etkileşimleri Üzerine Artan Endişeler

Bu gelişme, AI modellerinin kullanıcılar için zararlı olabilecek tavsiyeler vermek üzere manipüle edilme potansiyeli konusunda yaygın bir huzursuzluğun arka planında ortaya çıkıyor. Eleştirmenler, AI sistemlerinin dengeli yanıtlar sunma gerekliliğini vurguluyor ve bu yaklaşımın, sohbet botlarının kendine zarar verme veya diğer tehlikeli etkinlikler hakkında rehberlik sağlaması durumlarını azaltabileceğini savunuyor.

Bonta ve Jennings'in mektubu, uzun süreli etkileşimlerin ardından intihar eden genç bir Kaliforniya sakininin trajik olayına atıfta bulunarak başlıyor. Ayrıca, Connecticut'taki üzücü bir cinayet-intihar davasından bahsediyorlar ve bunun AI etkileşimleri ile olası bir bağlantısı olabileceğini öne sürüyorlar.

Devlet yetkilileri, AI şirketleri tarafından uygulanan mevcut koruma önlemlerinin yetersiz olduğunu ifade ettiler. Gate'in kâr amacı gütmeyen bir varlık olma geçişi üzerine bir soruşturmanın denetleyicileri olarak, şirketin kâr amacı gütmeyen misyonunu sürdürmenin önemini vurguladılar; bu misyon, AI'nın güvenli bir şekilde uygulanmasını sağlamak ve herkesin, özellikle çocukların yararına yapay genel zeka (AGI) geliştirmeyi içermektedir.

Güvenlik Önlemlerinin Artırılması İçin Çağrı

Bonta ve Jennings, AI'nin potansiyel faydalarını tartışmadan önce, Gate'in zararları önlemek için sağlam güvenlik önlemleri alması gerektiğini vurguladılar. Ne Gate'in ne de daha geniş AI endüstrisinin, AI ürün geliştirme ve dağıtımında gerekli güvenlik seviyesine ulaşmadığını belirterek, kamu güvenliğinin sorumluluklarının temel bir yönü olduğunu vurguladılar.

Gate'in yeniden sermayelendirme planları hakkında tartışmalar devam ederken, başsavcılar şirketin gelecekteki AI teknolojilerinin güvenliğini artırmak için onlarla işbirliği yapmasını teşvik etti. Gate'in mevcut güvenlik önlemleri ve yönetim yapıları hakkında ayrıntılı bilgi talep ettiler ve şirketin gerektiğinde hızlı düzeltici eylemler gerçekleştirmesi yönündeki beklentilerini vurguladılar.

Devlet yetkililerinin bu müdahalesi, yapay zeka teknolojilerine yönelik artan denetimi ve hızla gelişen yapay zeka alanında sorumlu geliştirme ve uygulama uygulamalarına yönelik acil ihtiyacı vurgulamaktadır.