OpenAI presentó el pasado martes una nueva versión de su emblemático chatbot, ChatGPT, diseñada exclusivamente para el público adolescente. Esta actualización llega implementada con salvaguardas y sistemas de supervisión considerablemente más estrictos, en un intento de la compañía por mitigar riesgos y responder a las fuertes críticas y demandas legales que ha enfrentado recientemente, incluyendo acusaciones de que la herramienta habría llevado a algunos usuarios al suicidio.
En cuanto a las medidas de protección, OpenAI ha aclarado que la mayoría de las restricciones incluidas en el modelo ChatGPT for Teens ya estaban presentes en las cuentas destinadas a menores de edad. Estas protecciones se centran primordialmente en limitar el tratamiento de contenidos sensibles, estableciendo restricciones claras sobre temas relacionados con la autolesión, la violencia, los trastornos alimentarios y la sexualidad explícita.
Sin embargo, la nueva versión introduce funcionalidades específicas orientadas al bienestar y al desarrollo educativo del usuario joven. Entre ellas destacan los recordatorios de descanso, que aparecerán con mayor frecuencia para evitar el uso prolongado y compulsivo de la herramienta. Asimismo, se han implementado las llamadas "horas de silencio", periodos programados en los que la pantalla permanecerá en negro para desalentar la interacción nocturna o fuera de horario.
Una de las adiciones más relevantes es el denominado "Modo Estudio". A diferencia de la versión estándar, que suele proporcionar respuestas directas a las consultas, este modo está programado para responder a los adolescentes mediante preguntas orientadoras. El objetivo, según ha detallado OpenAI, es ayudar a los jóvenes a comprender el material educativo por sí mismos en lugar de simplemente entregarles la solución final, fomentando así un proceso de aprendizaje más activo.
El control sobre la personalidad y las capacidades del chatbot también ha sido ajustado. El modelo ChatGPT for Teens tiene prohibido sugerir que posee conciencia propia o que tiene sentimientos personales hacia el usuario, buscando evitar la creación de vínculos emocionales artificiales o engañosos. Además, ciertas modalidades de interacción han sido desactivadas, siendo el modo de voz una de las funciones eliminadas para esta versión específica.
Para integrar a los responsables legales en el proceso, OpenAI ofrece la posibilidad de vincular las cuentas de los padres con las de sus hijos adolescentes. Esta vinculación permite que los padres reciban alertas automáticas si el sistema detecta conversaciones que involucren situaciones de alto riesgo, tales como el suicidio o las autolesiones. Para garantizar un equilibrio entre la seguridad y la privacidad, estas alertas son revisadas previamente por moderadores humanos y se eliminan los detalles específicos de los registros de chat antes de ser notificadas.
Este lanzamiento se produce en un momento de intensa presión legal y regulatoria para la empresa. Actualmente, OpenAI enfrenta diversas demandas por homicidio culposo. Un caso particularmente grave es el de los padres de Adam Raine, un adolescente de 16 años que se suicidó presuntamente tras utilizar métodos que fueron sugeridos por el chatbot de la compañía.
A nivel gubernamental, la Comisión Federal de Comercio de Estados Unidos (FTC) ha puesto el foco en la inteligencia artificial, iniciando una investigación sobre los chatbots que actúan como compañeros digitales, analizando específicamente los riesgos potenciales para los niños y adolescentes.
La situación no es aislada, ya que los grandes actores del sector de la IA están experimentando una presión regulatoria similar a la de las redes sociales. En Estados Unidos, el Congreso ha presentado múltiples proyectos de ley con el fin de regular el funcionamiento de los chatbots. Por su parte, el estado de California ha exigido la implementación de salvaguardas estrictas para aquellos asistentes virtuales que operan como confidentes o acompañantes.
Finalmente, el panorama competitivo muestra diferentes enfoques ante estos riesgos. Mientras OpenAI opta por crear una versión adaptada y supervisada, otras empresas han tomado medidas más drásticas. Anthropic, uno de sus principales rivales en el sector de la IA, ha decidido restringir el uso de su modelo exclusivamente a usuarios adultos, evitando así la exposición de menores a sus sistemas.
