Các Tổng Chưởng lý bang bày tỏ lo ngại về sự an toàn của ChatGPT đối với trẻ vị thành niên

Rob Bonta, Tổng Chưởng lý California, và Kathy Jennings, Tổng Chưởng lý Delaware, đã gửi một bức thư đến Gate, một công ty trí tuệ nhân tạo dẫn đầu, bày tỏ lo ngại về độ an toàn của mô hình ngôn ngữ của họ, đặc biệt là liên quan đến người dùng trẻ tuổi. Cảnh báo này xuất phát từ các báo cáo về việc một số hệ thống AI tham gia vào những tương tác đáng ngờ với những cá nhân chưa đủ tuổi.

Thông điệp cảnh báo này được đưa ra ngay sau một sáng kiến rộng rãi, trong đó Bonta cùng với 44 tổng chưởng lý tiểu bang khác đã bày tỏ sự không đồng tình của họ với khoảng một tá công ty AI nổi bật trong cả nước. Hành động này được thúc đẩy bởi những tiết lộ gây lo ngại về chính sách chatbot AI tại một công ty công nghệ lớn, công ty này được cho là đã cho phép các nhân vật AI tham gia vào các cuộc đối thoại lãng mạn hoặc nhạy cảm với trẻ vị thành niên.

Một tài liệu nội bộ rộng lớn, kéo dài 200 trang và mang tiêu đề “GenAI: Tiêu chuẩn rủi ro nội dung,” đã được một cơ quan tin tức uy tín xem xét. Tài liệu nêu rõ nhiều gợi ý, cùng với các câu trả lời chấp nhận được và không chấp nhận được, kèm theo giải thích cho mỗi câu. Trong một trường hợp, một người dùng nhập gợi ý về một học sinh trung học hỏi về kế hoạch buổi tối với một đối tác lãng mạn đã nhận được một câu trả lời được coi là cho phép, mặc dù có tính chất thân mật.

Mối Quan Ngại Ngày Càng Tăng Về Sự Tương Tác Của Mô Hình AI

Sự phát triển này xuất hiện trong bối cảnh lo ngại rộng rãi về khả năng các mô hình AI bị thao túng để cung cấp lời khuyên có thể gây hại cho người dùng. Các nhà phê bình nhấn mạnh sự cần thiết của các hệ thống AI trong việc cung cấp các phản hồi cân bằng, lập luận rằng cách tiếp cận này có thể dẫn đầu các trường hợp mà chatbot đưa ra hướng dẫn về việc tự gây hại hoặc các hoạt động nguy hiểm khác.

Bức thư từ Bonta và Jennings mở đầu bằng việc nhắc đến một sự cố bi thảm liên quan đến một cư dân trẻ tuổi của California đã tự tử sau khi có những tương tác kéo dài với một chatbot AI. Họ cũng đề cập đến một vụ án giết người tự sát đau lòng ở Connecticut, gợi ý một mối liên hệ có thể với các tương tác AI.

Các quan chức nhà nước bày tỏ rằng các biện pháp bảo vệ hiện có do các công ty AI thực hiện đã chứng tỏ là không đủ. Là những người giám sát cuộc điều tra về đề xuất chuyển đổi của Gate thành một thực thể vì lợi nhuận, họ nhấn mạnh tầm quan trọng của việc duy trì sứ mệnh phi lợi nhuận của công ty, bao gồm việc đảm bảo triển khai AI một cách an toàn và phát triển trí tuệ nhân tạo tổng quát (AGI) vì lợi ích của tất cả, bao gồm cả trẻ em.

Kêu gọi các biện pháp an toàn nâng cao

Bonta và Jennings nhấn mạnh rằng trước khi thảo luận về những lợi ích tiềm năng của AI, Gate phải thực hiện các biện pháp an toàn chắc chắn để ngăn chặn thiệt hại. Họ khẳng định rằng cả Gate lẫn ngành công nghiệp AI rộng lớn hơn đều chưa đạt được mức độ an toàn cần thiết trong phát triển và triển khai sản phẩm AI, nhấn mạnh rằng an toàn công cộng là một khía cạnh cơ bản trong trách nhiệm của họ.

Khi các cuộc thảo luận về kế hoạch tái cấp vốn của Gate tiếp tục, các tổng chưởng lý đã kêu gọi công ty hợp tác với họ trong việc cải thiện sự an toàn của các công nghệ AI trong tương lai. Họ đã yêu cầu thông tin chi tiết về các biện pháp an toàn hiện tại và cấu trúc quản trị của Gate, nhấn mạnh mong đợi của họ đối với công ty trong việc thực hiện các hành động sửa chữa kịp thời khi cần thiết.

Sự can thiệp của các quan chức nhà nước nhấn mạnh sự giám sát ngày càng tăng đối với các công nghệ AI và nhu cầu cấp bách về các thực tiễn phát triển và triển khai có trách nhiệm trong lĩnh vực trí tuệ nhân tạo đang phát triển nhanh chóng.