Генеральные прокуроры штатов выражают обеспокоенность безопасностью ChatGPT для несовершеннолетних

Роб Бонта, генеральный прокурор Калифорнии, и Кэти Дженнингс, генеральный прокурор Делавэра, направили письмо в Gate, ведущую компанию в области искусственного интеллекта, выражая обеспокоенность по поводу безопасности их языковой модели, особенно в отношении молодых пользователей. Это предупреждение последовало за сообщениями о том, что некоторые AI-системы ведут сомнительные взаимодействия с несовершеннолетними.

Предупредительное сообщение появилось на фоне более широкой инициативы, в рамках которой Бонта, вместе с 44 другими генеральными прокурорами штатов, выразил свое неодобрение примерно дюжине известных ИИ-компаний в стране. Эта акция была вызвана тревожными откровениями о политиках чат-ботов ИИ в крупной технологической компании, которая, якобы, разрешала ИИ-персонажам вступать в романтические или чувственные диалоги с несовершеннолетними.

Обширный внутренний документ, состоящий из 200 страниц и озаглавленный “GenAI: Стандарты рисков контента”, был подвергнут анализу авторитетным новостным агентством. Документ описывал различные подсказки, а также приемлемые и неприемлемые ответы, сопровождаемые объяснениями для каждого. В одном случае, предложение пользователя, в котором старшеклассник спрашивал о планах на вечер с романтическим партнером, вызвало ответ, который был признан допустимым, несмотря на его интимный характер.

Растущие опасения по поводу взаимодействия с моделями ИИ

Это развитие происходит на фоне широкого беспокойства по поводу возможности манипуляции AI моделями, чтобы они давали советы, которые могут быть вредны для пользователей. Критики подчеркивают необходимость того, чтобы AI системы предоставляли сбалансированные ответы, утверждая, что такой подход может смягчить случаи, когда чат-боты дают рекомендации по самоповреждению или другим опасным действиям.

Письмо от Бонты и Дженнингс начинается с упоминания о трагическом инциденте с молодым жителем Калифорнии, который покончил с собой после продолжительных взаимодействий с AI-чат-ботом. Они также упомянули о тревожном случае убийства и самоубийства в Коннектикуте, предполагая возможную связь с взаимодействиями с AI.

Государственные чиновники выразили мнение, что существующие меры предосторожности, внедренные компаниями ИИ, оказались недостаточными. В качестве наблюдателей за расследованием предложенного перехода Gate к коммерческой деятельности они подчеркнули важность сохранения некоммерческой миссии компании, которая включает в себя обеспечение безопасного внедрения ИИ и разработку искусственного общего интеллекта (AGI) на благо всех, включая детей.

Призыв к усилению мер безопасности

Бонта и Дженнингс подчеркнули, что прежде чем обсуждать потенциальные преимущества ИИ, Gate должен внедрить надежные меры безопасности для предотвращения вреда. Они утверждали, что ни Gate, ни более широкая индустрия ИИ не достигли необходимого уровня безопасности в разработке и развертывании ИИ-продуктов, подчеркивая, что безопасность общественности является основополагающим аспектом их обязанностей.

Поскольку обсуждения планов рекапитализации Gate продолжаются, генеральные прокуроры призвали компанию сотрудничать с ними для улучшения безопасности будущих технологий ИИ. Они запросили подробную информацию о текущих мерах безопасности и структурах управления Gate, подчеркивая свои ожидания от компании принять быстрые корректирующие меры, где это необходимо.

Это вмешательство государственных чиновников подчеркивает растущее внимание к технологиям ИИ и настоятельную необходимость ответственного развития и развертывания практик в быстро развивающейся области искусственного интеллекта.