州檢察長對ChatGPT對未成年人的安全性表示擔憂

加利福尼亞州的檢察長羅伯·邦塔和特拉華州的檢察長凱西·詹寧斯已致信Gate，一家龍頭人工智能公司，表達對其語言模型安全性的擔憂，特別是針對年輕用戶。這一警告是在有報道稱某些人工智能系統與未成年人進行可疑互動之後發出的。

這一警示信息是在一項更廣泛的倡議之後發布的，Bonta與其他44位州檢察長共同向全國約十家知名AI公司表達了他們的反對意見。這一舉動是由於關於一家大型科技公司AI聊天機器人政策的不安揭示，該政策據稱允許AI角色與未成年人進行浪漫或性感的對話。

一份長達200頁的內部文件，標題爲《GenAI: 內容風險標準》，受到了一家知名新聞機構的審查。該文件概述了各種提示，以及可接受和不可接受的回應，並附有每個回應的解釋。在一個實例中，一名用戶輸入建議一名高中生詢問與浪漫伴侶的晚間計劃，盡管其親密性質，該回應被認爲是可接受的。

對AI模型互動日益增長的關注

這一發展出現在人們普遍對AI模型可能被操控以提供可能對用戶有害的建議的廣泛不安背景下。批評者強調AI系統提供平衡回應的必要性，認爲這種方法可以減輕聊天機器人在提供關於自殘或其他危險活動的指導時的情況。

Bonta和Jennings的信中提到了一起悲慘事件，涉及一位年輕的加州居民在與AI聊天機器人長時間互動後選擇了自殺。他們還提到了康涅狄格州一起令人痛心的謀殺自殺案件，暗示可能與AI互動有關。

國家官員表示，AI公司實施的現有保障措施已被證明不夠充分。作爲對Gate提議轉型爲營利實體的調查監督者，他們強調維護公司非營利使命的重要性，其中包括確保AI的安全部署以及爲所有人（包括兒童）開發人工通用智能(AGI)。

呼籲加強安全措施

Bonta和Jennings強調，在討論AI的潛在好處之前，Gate必須實施強有力的安全措施以防止傷害。他們斷言，無論是Gate還是更廣泛的AI行業，都沒有在AI產品開發和部署中達到必要的安全水平，強調公衆安全是他們責任的基本方面。

隨着關於Gate再資本化計劃的討論持續進行，檢察長們敦促該公司與他們合作，以增強未來AI技術的安全性。他們已請求提供關於Gate當前安全預防措施和治理結構的詳細信息，強調他們對公司在必要時迅速採取糾正措施的期望。

國家官員的幹預凸顯了對人工智能技術日益增長的審查，以及在迅速發展的人工智能領域中對負責任的開發和部署實踐的迫切需求。