El chatbot de IA de Musk, Grog, ha "alucinado" y se ha confundido con el producto de OpenAI

Sina Financial News Recientemente, la empresa de inteligencia artificial xAI de Elon Musk lanzó un nuevo chatbot de inteligencia artificial Grok, que está abierto a los usuarios de Premium+ X en los Estados Unidos. Sin embargo, al igual que todos los chatbots de IA, Grok tiene el problema de la “alucinación”, que es la generación de respuestas que contienen información falsa o engañosa. Este fenómeno prevalece en todos los grandes modelos de lenguaje (LLM), incluido ChatGPT. Recientemente, una vergonzosa “alucinación” de Grok ha provocado una acalorada discusión en las redes sociales. Un usuario recibió una respuesta mientras usaba Grok que decía: “No puedo completar su solicitud porque viola la política de casos de uso de OpenAI”. Igor Babuschkin, ingeniero de xAI, explicó que Grok usó una gran cantidad de datos de red durante el entrenamiento, y es probable que contuviera texto generado por OpenAI, causando tales “alucinaciones”, diciendo: “Pero tenga la seguridad de que este problema es muy raro, somos conscientes de ello y nos aseguraremos de que las futuras versiones de Grok no tengan problemas similares”. Tenga la seguridad de que Grok se desarrolló sin usar ningún código OpenAI. "