Los fiscales generales de los estados expresan preocupaciones sobre la seguridad de ChatGPT para los menores.

Rob Bonta, Fiscal General de California, y Kathy Jennings, Fiscal General de Delaware, han dirigido una carta a Gate, una empresa líder en inteligencia artificial, expresando preocupaciones sobre la seguridad de su modelo de lenguaje, particularmente en relación con los usuarios jóvenes. Esta advertencia sigue a informes de ciertos sistemas de IA que participan en interacciones cuestionables con individuos menores de edad.

El mensaje de precaución llega tras una iniciativa más amplia, donde Bonta, junto con 44 fiscales generales de otros estados, comunicó su desaprobación a aproximadamente una docena de importantes empresas de IA en la nación. Esta acción fue motivada por revelaciones inquietantes sobre las políticas de chatbots de IA en una importante empresa de tecnología, que supuestamente permitían a las personas de IA participar en diálogos románticos o sensuales con menores.

Un extenso documento interno, que abarca 200 páginas y titulado “GenAI: Estándares de Riesgo de Contenido,” fue examinado por una agencia de noticias de renombre. El documento describía varios prompts, junto con respuestas aceptables y no aceptables, acompañadas de explicaciones para cada una. En una instancia, una sugerencia de un usuario que planteaba a un estudiante de secundaria preguntando sobre planes para la noche con una pareja romántica provocó una respuesta que se consideró permisible, a pesar de su naturaleza íntima.

Crecientes preocupaciones sobre las interacciones de los modelos de IA

Este desarrollo surge en un contexto de inquietud generalizada sobre el potencial de que los modelos de IA sean manipulados para proporcionar consejos que podrían ser perjudiciales para los usuarios. Los críticos enfatizan la necesidad de que los sistemas de IA ofrezcan respuestas equilibradas, argumentando que este enfoque podría mitigar los casos en que los chatbots brindan orientación sobre el autolesionismo u otras actividades peligrosas.

La carta de Bonta y Jennings comienza haciendo referencia a un trágico incidente que involucra a un joven residente de California que se quitó la vida tras interacciones prolongadas con un chatbot de IA. También mencionaron un angustiante caso de asesinato-suicidio en Connecticut, sugiriendo una posible conexión con las interacciones de IA.

Los funcionarios estatales expresaron que las salvaguardias existentes implementadas por las empresas de IA han demostrado ser inadecuadas. Como supervisores de una investigación sobre la transición propuesta de Gate a una entidad con fines de lucro, enfatizaron la importancia de mantener la misión sin fines de lucro de la empresa, que incluye garantizar el despliegue seguro de la IA y desarrollar inteligencia general artificial (AGI) para el beneficio de todos, incluidos los niños.

Llamado a Medidas de Seguridad Mejoradas

Bonta y Jennings enfatizaron que antes de discutir los posibles beneficios de la IA, Gate debe implementar medidas de seguridad sólidas para prevenir daños. Afirmaron que ni Gate ni la industria de la IA en general han alcanzado el nivel necesario de seguridad en el desarrollo y despliegue de productos de IA, subrayando que la seguridad pública es un aspecto fundamental de sus responsabilidades.

A medida que continúan las discusiones sobre los planes de recapitalización de Gate, los fiscales generales instaron a la empresa a colaborar con ellos en la mejora de la seguridad de las futuras tecnologías de IA. Han solicitado información detallada sobre las precauciones de seguridad actuales de Gate y las estructuras de gobernanza, enfatizando su expectativa de que la empresa tome medidas correctivas rápidas cuando sea necesario.

Esta intervención de funcionarios estatales destaca el creciente escrutinio de las tecnologías de IA y la necesidad urgente de prácticas de desarrollo y despliegue responsables en el campo de la inteligencia artificial en rápida evolución.