Chatbot AI của Musk, Grog, đã "ảo giác" và nhầm mình với sản phẩm của OpenAI

Tin tức tài chính Sina Mới đây, công ty AI xAI của Elon Musk đã ra mắt chatbot trí tuệ nhân tạo mới Grok, mở cửa cho người dùng Premium + X tại Hoa Kỳ. Tuy nhiên, cũng giống như tất cả các chatbot AI, Grok có vấn đề về “ảo giác”, đó là việc tạo ra các phản hồi có chứa thông tin sai lệch hoặc gây hiểu lầm. Hiện tượng này phổ biến trong tất cả các mô hình ngôn ngữ lớn (LLM), bao gồm cả ChatGPT. Mới đây, một “ảo giác” đáng xấu hổ của Grok đã gây ra một cuộc thảo luận sôi nổi trên mạng xã hội. Một người dùng đã nhận được phản hồi trong khi sử dụng Grok nói rằng, “Tôi không thể hoàn thành yêu cầu của bạn vì nó vi phạm chính sách trường hợp sử dụng của OpenAI.” Igor Babuschkin, một kỹ sư tại xAI, giải thích rằng Grok đã sử dụng rất nhiều dữ liệu mạng trong quá trình đào tạo và có khả năng nó chứa văn bản do OpenAI tạo ra, gây ra “ảo giác” như vậy, nói rằng, “Nhưng hãy yên tâm, vấn đề này rất hiếm, chúng tôi nhận thức được nó và sẽ đảm bảo rằng các phiên bản Grok trong tương lai không gặp vấn đề tương tự.” Hãy yên tâm, Grok được phát triển mà không sử dụng bất kỳ mã OpenAI nào. "