Генеральні прокурори штатів висловлюють занепокоєння щодо безпеки ChatGPT для неповнолітніх

Роб Бонта, генеральний прокурор Каліфорнії, та Кеті Дженнінгс, генеральний прокурор Делаверу, надіслали листа до Gate, провідної компанії в галузі штучного інтелекту, висловлюючи занепокоєння щодо безпеки їхньої мовної моделі, особливо стосовно молодих користувачів. Це попередження слідує за повідомленнями про те, що певні системи ШІ беруть участь у сумнівних взаємодіях з неповнолітніми.

Застережливе повідомлення з'являється на фоні ширшої ініціативи, в рамках якої Бонта разом з 44 іншими генеральними прокурорами штатів висловили своє невдоволення приблизно дюжиною відомих компаній у сфері штучного інтелекту в країні. Ця дія була спровокована тривожними відкриттями про політику чат-ботів штучного інтелекту в одній з великих технологічних компаній, яка нібито дозволяла персонажам штучного інтелекту вести романтичні або чуттєві діалоги з неповнолітніми.

Обширний внутрішній документ, що складається з 200 сторінок і має назву “GenAI: Стандарти ризиків вмісту”, був перевірений авторитетним новинним агентством. Документ виклав різні запити, а також прийнятні та неприйнятні відповіді, супроводжуючи їх поясненнями для кожного. В одному випадку запит користувача, що пропонує учневі середньої школи запитати про вечірні плани з романтичним партнером, викликав відповідь, яка була визнана прийнятною, незважаючи на її інтимний характер.

Зростаюча стурбованість щодо взаємодій моделей штучного інтелекту

Цей розвиток виникає на фоні загального занепокоєння щодо потенціалу маніпуляції AI-моделями для надання порад, які можуть бути шкідливими для користувачів. Критики підкреслюють необхідність того, щоб AI-системи пропонували збалансовані відповіді, стверджуючи, що такий підхід може зменшити випадки, коли чат-боти надають рекомендації щодо самопошкодження або інших небезпечних дій.

Лист від Бонти та Дженнінгса починається з посилання на трагічний інцидент за участю молодого жителя Каліфорнії, який покінчив життя самогубством після тривалих взаємодій з чат-ботом ШІ. Вони також згадали про тривожний випадок убивства-самогубства в Коннектикуті, що може вказувати на можливий зв'язок з взаємодіями з ШІ.

Державні чиновники висловили, що існуючі заходи безпеки, впроваджені компаніями ШІ, виявилися недостатніми. Як наглядові органи розслідування запропонованого переходу Gate до комерційної організації, вони підкреслили важливість підтримки неприбуткової місії компанії, яка включає забезпечення безпечного впровадження ШІ та розробку штучного загального інтелекту (AGI) на користь усіх, включаючи дітей.

Заклик до посилення заходів безпеки

Бонта та Дженнінгс підкреслили, що перед обговоренням потенційних переваг ШІ, Gate повинна впровадити надійні заходи безпеки для запобігання шкоді. Вони стверджували, що ні Gate, ні ширша індустрія ШІ не досягли необхідного рівня безпеки у розробці та впровадженні продуктів ШІ, підкреслюючи, що громадська безпека є основним аспектом їхніх обов'язків.

Оскільки обговорення планів по рекапіталізації Gate тривають, генеральні прокурори закликали компанію співпрацювати з ними в покращенні безпеки майбутніх технологій штучного інтелекту. Вони запросили детальну інформацію про поточні заходи безпеки та структури управління Gate, підкреслюючи свої очікування щодо того, що компанія вживає швидких коригуючих дій у разі необхідності.

Ця інтервенція державних чиновників підкреслює зростаючу увагу до технологій штучного інтелекту та нагальну потребу у відповідальному розвитку та практиках впровадження в швидко змінюваній сфері штучного інтелекту.