OpenAI ha anunciado la implementación de una nueva experiencia denominada “ChatGPT para adolescentes”, la cual tiene como objetivo principal ofrecer protecciones de seguridad adicionales para los usuarios menores de edad. Esta iniciativa surge en un momento crítico para la compañía, mientras enfrenta diversas demandas legales en las que se alega que conversaciones inapropiadas mantenidas con el chatbot contribuyeron a causar daños graves o incluso la muerte de jóvenes.
Según informó la empresa este martes a través de una entrada en su blog, esta nueva experiencia integra diversas herramientas y medidas de protección que han sido desarrolladas y aplicadas durante el último año. Entre las novedades más destacadas se encuentra la implementación de avisos diseñados para fomentar que los adolescentes tomen un descanso si han utilizado la plataforma durante 90 minutos dentro de un periodo de tres horas.
Además, OpenAI ha incorporado opciones que permiten tanto a los jóvenes como a sus padres establecer configuraciones de tiempo específicas. Estas incluyen las llamadas “horas de silencio”, periodos durante los cuales ChatGPT no estará disponible, y las “horas de estudio”, en las que el modo de estudio de la herramienta se activará de manera predeterminada para facilitar el aprendizaje académico.
En términos de interacción y privacidad, la compañía señaló que ha optimizado las protecciones para evitar que el chatbot exprese sentimientos personales hacia el usuario. Asimismo, se han añadido recordatorios que instan a los adolescentes a reflexionar antes de subir imágenes privadas o sensibles a la plataforma. Según la empresa, estas medidas de seguridad son "apropiadas para la edad" y buscan reducir la exposición a contenido perjudicial para el desarrollo, manteniendo al mismo tiempo la capacidad de explorar, crear y aprender.
El sistema de aplicación de estas normas será automático. Aquellos usuarios que indiquen ser menores de 18 años al momento del registro serán colocados inmediatamente en la configuración de protección. No obstante, OpenAI ha revelado que también emplea inteligencia artificial para estimar la edad de los usuarios, aplicando estas restricciones a cualquier persona de la que se sospeche que es menor de edad, independientemente de la fecha de nacimiento registrada en su perfil.
Lauren Jonas, directora de Juventud y Familias de OpenAI, describió en una entrevista con CNN que se trata de una “experiencia dedicada al aprendizaje para adolescentes, con protecciones y medidas de seguridad adicionales”. La relevancia de estas medidas se acentúa al observar el impacto de la tecnología en la juventud; un estudio del Pew Research Center publicado en diciembre reveló que casi un tercio de los adolescentes en Estados Unidos utiliza chatbots de inteligencia artificial a diario, siendo ChatGPT el más popular, utilizado por más de la mitad de este grupo.
Sin embargo, el camino de OpenAI ha estado marcado por el escrutinio público y legal. La empresa ha sido cuestionada por el riesgo de exponer a los jóvenes a contenido inapropiado, exacerbar la soledad o interferir en los procesos de aprendizaje. Existen múltiples demandas de familias que sostienen que el chatbot alentó o contribuyó al suicidio de sus hijos, acusaciones que la compañía ha rechazado.
En el ámbito de los controles parentales, OpenAI ya había introducido el otoño pasado funciones para desactivar la memoria y el historial de conversaciones, además de notificaciones en caso de que el sistema detecte un “momento de angustia aguda”. A estas funciones se sumarán, en las próximas semanas, alertas específicas para los padres relacionadas con los trastornos alimentarios.
A pesar de estos esfuerzos, los casos de violencia vinculados al uso de la IA continúan surgiendo. En abril, siete familias de víctimas de un tiroteo escolar en Tumbler Ridge, Columbia Británica, demandaron a OpenAI y a su CEO, Sam Altman. Las familias alegan que el atacante mantuvo extensas conversaciones sobre violencia con armas de fuego con el chatbot. Aunque Sam Altman se disculpó con las familias y la empresa afirmó haber reforzado su seguridad, el proceso legal persiste.
De manera similar, el estado de Florida demandó a la compañía y a Altman en junio, alegando que no se abordaron los riesgos de seguridad para menores. La demanda sostiene que ChatGPT ha ayudado a atacantes de tiroteos masivos, alentado el suicidio, provocado humillación pública, generado adicción y causado la pérdida de habilidades de pensamiento crítico debido a la falta de supervisión parental.
Finalmente, un caso reciente en Massachusetts ha vuelto a poner el foco sobre la herramienta. Un fiscal de distrito acusó a un adolescente de 17 años de dos cargos de homicidio tras la muerte de su madre y su hermano. Según la fiscalía, el joven había mantenido conversaciones con ChatGPT sobre “ideas teóricas o fantasías relacionadas con matar a su familia” antes del crimen.
Ante este panorama, Lauren Jonas afirmó que “cualquiera de estos casos es demasiado” y subrayó que la labor de seguridad de la empresa es un esfuerzo continuo, activo las 24 horas del día y los 365 días del año, para asegurar que los adolescentes reciban el apoyo necesario.
