マスク氏のAIチャットボット「Grog」が「幻覚」を起こし、OpenAIの製品と間違えた

新浪金融ニュース 最近、イーロンマスクのAI企業xAIは、米国のPremium+ Xユーザーに開放されている新しい人工知能チャットボットGrokを立ち上げました。 ただし、すべてのAIチャットボットと同様に、Grokには、誤った情報や誤解を招く情報を含む応答の生成である「幻覚」の問題があります。 この現象は、ChatGPT を含むすべての大規模言語モデル (LLM) で一般的です。 最近、Grokの恥ずかしい「幻覚」がソーシャルメディア上で白熱した議論を引き起こしています。 あるユーザーは、Grokを使用しているときに、「OpenAIのユースケースポリシーに違反しているため、リクエストを完了できません」という応答を受け取りました。 xAIのエンジニアであるIgor Babuschkin氏は、Grokがトレーニング中に大量のネットワークデータを使用し、OpenAIが生成したテキストが含まれていたため、このような「幻覚」を引き起こした可能性が高いと説明し、「しかし、安心してください、この問題は非常にまれです。私たちはそれを認識しており、Grokの将来のバージョンで同様の問題が発生しないようにします」と述べています。 GrokはOpenAIコードを使用せずに開発されましたのでご安心ください。 "