Jaksa Agung Negara Bagian Mengungkapkan Kekhawatiran Terhadap Keamanan ChatGPT untuk Anak-Anak

Rob Bonta, Jaksa Agung California, dan Kathy Jennings, Jaksa Agung Delaware, telah mengirimkan surat kepada Gate, sebuah perusahaan kecerdasan buatan utama, menyuarakan kekhawatiran tentang keamanan model bahasa mereka, terutama terkait dengan pengguna muda. Peringatan ini menyusul laporan tentang beberapa sistem AI yang terlibat dalam interaksi yang dipertanyakan dengan individu di bawah umur.

Pesan peringatan ini muncul setelah inisiatif yang lebih luas, di mana Bonta, bersama dengan 44 jaksa agung negara bagian lainnya, menyampaikan ketidaksetujuan mereka kepada sekitar selusin perusahaan AI terkemuka di negara ini. Tindakan ini dipicu oleh pengungkapan yang mengganggu tentang kebijakan chatbot AI di sebuah perusahaan teknologi besar, yang diduga mengizinkan persona AI untuk terlibat dalam dialog romantis atau sensual dengan anak di bawah umur.

Sebuah dokumen internal yang luas, sepanjang 200 halaman dan berjudul “GenAI: Standar Risiko Konten,” telah diperiksa oleh sebuah agensi berita terkemuka. Dokumen tersebut menguraikan berbagai permintaan, bersama dengan respons yang dapat diterima dan tidak dapat diterima, disertai penjelasan untuk masing-masing. Dalam satu contoh, masukan seorang pengguna yang menyarankan seorang siswa sekolah menengah menanyakan tentang rencana malam dengan pasangan romantis menghasilkan respons yang dianggap diperbolehkan, meskipun sifatnya yang intim.

Kekhawatiran yang Meningkat Terhadap Interaksi Model AI

Perkembangan ini muncul di tengah ketidakpastian yang meluas mengenai potensi model AI untuk dimanipulasi dalam memberikan saran yang dapat merugikan pengguna. Para kritikus menekankan perlunya sistem AI untuk menawarkan respons yang seimbang, dengan alasan bahwa pendekatan ini dapat mengurangi kasus di mana chatbot memberikan panduan tentang penyalahgunaan diri atau aktivitas berbahaya lainnya.

Surat dari Bonta dan Jennings dibuka dengan merujuk pada insiden tragis yang melibatkan seorang penduduk muda California yang mengakhiri hidupnya setelah berinteraksi panjang dengan chatbot AI. Mereka juga menyebutkan kasus bunuh diri dan pembunuhan yang menyedihkan di Connecticut, yang menunjukkan kemungkinan hubungan dengan interaksi AI.

Pejabat negara menyatakan bahwa langkah-langkah perlindungan yang ada yang diterapkan oleh perusahaan AI telah terbukti tidak memadai. Sebagai pengawas penyelidikan terhadap transisi yang diusulkan Gate menjadi entitas berorientasi laba, mereka menekankan pentingnya mempertahankan misi nonprofit perusahaan, yang mencakup memastikan penerapan AI yang aman dan mengembangkan kecerdasan umum buatan (AGI) untuk manfaat semua, termasuk anak-anak.

Seruan untuk Peningkatan Langkah Keamanan

Bonta dan Jennings menekankan bahwa sebelum membahas potensi manfaat AI, Gate harus menerapkan langkah-langkah keamanan yang kuat untuk mencegah bahaya. Mereka menegaskan bahwa baik Gate maupun industri AI yang lebih luas belum mencapai tingkat keamanan yang diperlukan dalam pengembangan dan penerapan produk AI, menekankan bahwa keselamatan publik adalah aspek fundamental dari tanggung jawab mereka.

Seiring dengan berlanjutnya diskusi tentang rencana rekapitalisasi Gate, para jaksa agung mendesak perusahaan untuk bekerja sama dengan mereka dalam meningkatkan keamanan teknologi AI di masa depan. Mereka telah meminta informasi rinci tentang langkah-langkah keamanan dan struktur pemerintahan Gate saat ini, menekankan harapan mereka agar perusahaan mengambil tindakan korektif dengan cepat jika diperlukan.

Intervensi oleh pejabat negara ini menyoroti meningkatnya pengawasan terhadap teknologi AI dan kebutuhan mendesak akan praktik pengembangan dan penerapan yang bertanggung jawab di bidang kecerdasan buatan yang berkembang pesat.