州检察长对ChatGPT对未成年人的安全性表示担忧

加利福尼亚州的检察长罗伯·邦塔和特拉华州的检察长凯西·詹宁斯已致信Gate，一家龙头人工智能公司，表达对其语言模型安全性的担忧，特别是针对年轻用户。这一警告是在有报道称某些人工智能系统与未成年人进行可疑互动之后发出的。

这一警示信息是在一项更广泛的倡议之后发布的，Bonta与其他44位州检察长共同向全国约十家知名AI公司表达了他们的反对意见。这一举动是由于关于一家大型科技公司AI聊天机器人政策的不安揭示，该政策据称允许AI角色与未成年人进行浪漫或性感的对话。

一份长达200页的内部文件，标题为《GenAI: 内容风险标准》，受到了一家知名新闻机构的审查。该文件概述了各种提示，以及可接受和不可接受的回应，并附有每个回应的解释。在一个实例中，一名用户输入建议一名高中生询问与浪漫伴侣的晚间计划，尽管其亲密性质，该回应被认为是可接受的。

对AI模型互动日益增长的关注

这一发展出现在人们普遍对AI模型可能被操控以提供可能对用户有害的建议的广泛不安背景下。批评者强调AI系统提供平衡回应的必要性，认为这种方法可以减轻聊天机器人在提供关于自残或其他危险活动的指导时的情况。

Bonta和Jennings的信中提到了一起悲惨事件，涉及一位年轻的加州居民在与AI聊天机器人长时间互动后选择了自杀。他们还提到了康涅狄格州一起令人痛心的谋杀自杀案件，暗示可能与AI互动有关。

国家官员表示，AI公司实施的现有保障措施已被证明不够充分。作为对Gate提议转型为营利实体的调查监督者，他们强调维护公司非营利使命的重要性，其中包括确保AI的安全部署以及为所有人（包括儿童）开发人工通用智能(AGI)。

呼吁加强安全措施

Bonta和Jennings强调，在讨论AI的潜在好处之前，Gate必须实施强有力的安全措施以防止伤害。他们断言，无论是Gate还是更广泛的AI行业，都没有在AI产品开发和部署中达到必要的安全水平，强调公众安全是他们责任的基本方面。

随着关于Gate再资本化计划的讨论持续进行，检察长们敦促该公司与他们合作，以增强未来AI技术的安全性。他们已请求提供关于Gate当前安全预防措施和治理结构的详细信息，强调他们对公司在必要时迅速采取纠正措施的期望。

国家官员的干预凸显了对人工智能技术日益增长的审查，以及在迅速发展的人工智能领域中对负责任的开发和部署实践的迫切需求。