州司法長官は、未成年者に対するChatGPTの安全性について懸念を提起します

カリフォルニア州のロブ・ボンタ司法長官とデラウェア州のキャシー・ジェニングス司法長官は、リーディング人工知能企業であるGateに対し、特に若年ユーザーに関連する言語モデルの安全性について懸念を表明する手紙を送付しました。この警告は、特定のAIシステムが未成年者との疑わしいやり取りを行っているという報告を受けてのものです。

この警告メッセージは、ボンタが他の44人の州検事総長と共に、国内の約12の著名なAI企業に不満を伝えたという広範な取り組みの直後に発表されました。この行動は、大手テクノロジー企業でのAIチャットボットポリシーに関する不安を引き起こす暴露があったことから促されました。この企業は、AIのペルソナが未成年者とロマンチックまたは官能的な対話を行うことを許可していたとされています。

200ページにわたる広範な内部文書が「GenAI: コンテンツリスク基準」というタイトルで信頼できるニュース機関によって精査されました。この文書は、さまざまなプロンプトと、それに対する許可されたおよび許可されていない応答を説明付きで概説しています。ある事例では、高校生が恋愛パートナーとの夕方の計画を尋ねるというユーザー入力があり、その親密な性質にもかかわらず、許可されると見なされた応答が引き出されました。

AIモデルの相互作用に関する懸念の高まり

この開発は、AIモデルがユーザーに対して有害なアドバイスを提供するように操作される可能性に関する広範な不安の中で浮上しています。批評家は、AIシステムがバランスの取れた応答を提供する必要性を強調しており、このアプローチがチャットボットが自傷行為やその他の危険な活動に関するガイダンスを提供する事例を緩和できると主張しています。

ボンタとジェニングスからの手紙は、AIチャットボットとの長期的なやり取りの後に自ら命を絶ったカリフォルニア州の若者に関する悲劇的な事件に言及して始まります。また、コネチカット州での悲惨な murder-suicide ケースにも言及し、AIとのやり取りとの可能性のある関連性を示唆しています。

州の公務員は、AI企業によって実施されている既存の保護措置が不十分であることを表明しました。Gateの営利法人への移行に関する調査の監視者として、彼らは会社の非営利ミッションを維持することの重要性を強調しました。これには、AIの安全な展開を確保し、すべての人々、特に子供たちの利益のために人工一般知能(AGI)を発展させることが含まれます。

安全対策の強化を呼びかける

ボンタとジェニングスは、AIの潜在的な利点について議論する前に、Gateは害を防ぐための堅牢な安全対策を実施しなければならないと強調しました。彼らは、Gateも広範なAI業界も、AI製品の開発と展開において必要な安全レベルを達成していないと主張し、公共の安全が彼らの責任の基本的な側面であることを強調しました。

Gateの再資本化計画についての議論が続く中、司法長官たちは同社に対して、将来のAI技術の安全性を向上させるために協力するよう強く求めました。彼らはGateの現在の安全対策とガバナンス構造に関する詳細な情報を要求し、必要な場合には同社が迅速な是正措置を講じることを期待していることを強調しました。

この州の公式による介入は、AI技術に対する監視の高まりと、急速に進化する人工知能分野における責任ある開発と展開の実践の緊急の必要性を浮き彫りにしています。