El creciente uso de chatbots de inteligencia artificial como ChatGPT está generando preocupación entre expertos legales y de ciberseguridad, a medida que las conversaciones con estas herramientas se utilizan cada vez más como evidencia en investigaciones criminales. Desde homicidios hasta incendios provocados, los registros de chat con IA están ofreciendo a los investigadores una ventana al estado mental y los posibles motivos de los sospechosos, pero también plantean serias interrogantes sobre la privacidad y la confidencialidad.
El caso más reciente involucra a Hisham Abugharbieh, un estudiante de posgrado de la Universidad del Sur de Florida acusado de dos cargos de homicidio premeditado por la desaparición de dos compañeros de estudio. Según una declaración jurada presentada por fiscales, Abugharbieh realizó consultas inquietantes a ChatGPT días antes de las desapariciones, incluyendo preguntas sobre cómo deshacerse de un cuerpo humano y cómo evitar ser descubierto.
“¿Qué pasa si a un humano lo ponen en una bolsa de basura negra y lo tiran en un contenedor?”, preguntó Abugharbieh el 13 de abril, según el documento judicial. La respuesta de ChatGPT, que calificó la pregunta como peligrosa, no disuadió al sospechoso, quien continuó indagando sobre cómo ocultar un crimen.
Este caso se suma a una lista creciente de investigaciones criminales donde las conversaciones con IA han jugado un papel crucial. En Los Ángeles, una conversación con ChatGPT se utilizó en un caso de incendio provocado durante los devastadores incendios forestales. En Virginia, una conversación con la IA de Snapchat fue una prueba clave en un juicio por asesinato en 2024.
Para los investigadores, estos registros de chat son un “tesoro” de información, según Ilia Kolochenko, experto en ciberseguridad y abogado en Washington, DC. “Los sospechosos creen que sus interacciones con la IA permanecerán confidenciales, por lo que con frecuencia hacen preguntas muy directas y explícitas”, explicó Kolochenko.
Sin embargo, la falta de protecciones de privacidad para estas conversaciones es un problema creciente. A diferencia de las comunicaciones con abogados, médicos o terapeutas, las conversaciones con chatbots de IA no están protegidas legalmente. Sam Altman, CEO de OpenAI, la empresa detrás de ChatGPT, ha reconocido que esta falta de privacidad es un “gran problema”.
“La gente habla de las cosas más personales de su vida con ChatGPT”, dijo Altman en un podcast. “La gente lo usa como terapeuta, como coach de vida, para problemas de pareja. Y ahora mismo, si hablas con un terapeuta, un abogado o un médico, existe un privilegio legal. Todavía no hemos resuelto eso cuando hablas con ChatGPT”.
Expertos legales consultados por CNN coinciden en que no existe una expectativa de privacidad en las aplicaciones de chat con IA. “En mi firma, lo tratamos así: cualquier cosa que alguien escriba en ChatGPT es algo que podría ser objeto de divulgación”, dijo Virginia Hammerle, abogada con sede en Texas.
La preocupación se extiende más allá de la privacidad individual. Investigadores también están analizando las respuestas que ChatGPT proporciona a los usuarios, lo que ha llevado a una investigación penal en Florida contra OpenAI por supuestamente dar “asesoramiento significativo” al sospechoso de un tiroteo masivo en la Universidad Estatal de Florida. Además, familias de víctimas de un tiroteo escolar en Canadá han demandado a OpenAI y a Altman, alegando que la empresa y su chatbot fueron cómplices del ataque.
OpenAI ha respondido a estas preocupaciones con un comunicado en el que reafirma su “compromiso con la seguridad de la comunidad” y su intención de equilibrar la seguridad con la privacidad y otras libertades civiles.
A pesar de que la gran mayoría de las personas no estará involucrada en un caso criminal, expertos legales advierten que es importante ser cauteloso con lo que se comparte con los chatbots de inteligencia artificial. “Esto solo será cada vez más relevante, más inmediato y más polémico a medida que las personas continúen recurriendo a ChatGPT y a otras plataformas para obtener información sobre lo que están haciendo”, dijo Joey Jackson, analista legal de CNN.
El uso de conversaciones con IA en casos penales es similar a la forma en que la ley trata las búsquedas en Google, donde la evidencia electrónica puede revelar el motivo, las acciones y el estado mental de una persona. Casos anteriores, como el de Brian Walshe, condenado por el asesinato de su esposa tras ser descubiertas sus búsquedas macabras en Google, y el juicio de Karen Read, donde se analizó el significado de una búsqueda relacionada con la hipotermia, ilustran cómo este tipo de evidencia puede influir en los resultados judiciales.
En el caso de los asesinatos en la Universidad del Sur de Florida, las preguntas de Abugharbieh a ChatGPT incluyeron consultas sobre la legalidad de poseer un arma sin licencia, la posibilidad de modificar la identificación de un vehículo, la supervivencia a un disparo en la cabeza, la audibilidad de disparos y la temperatura del agua necesaria para causar quemaduras inmediatas. Además, buscó información sobre el significado de “adulto desaparecido en peligro”.
La policía encontró el cuerpo de Zamil Limon en una bolsa de basura, y se espera la confirmación de la identidad de los restos encontrados en una segunda bolsa como los de Nahida Bristy. Abugharbieh permanece detenido sin derecho a fianza, acusado de dos cargos de homicidio premeditado.
La discusión sobre si las conversaciones con IA deberían tener mayores protecciones de privacidad está en curso. Algunos, como Nils Gilman, historiador y asesor del Berggruen Institute, proponen la creación de leyes que otorguen un privilegio legal a la inteligencia artificial, argumentando que el beneficio social de mantener conversaciones honestas supera el interés del Estado en acceder a esa información.
Sin embargo, a ojos de la ley, los chatbots de inteligencia artificial no cuentan con la misma especialización ni protecciones que los profesionales con licencia. Las conversaciones con IA son tratadas como cualquier otro dato electrónico, sin protecciones específicas.
“ChatGPT no es tu amigo, no es tu abogado, no es tu médico, no es tu pareja”, advierte Gilman. “Dejen de hablarle como si lo fuera”. La creciente integración de la IA en la vida cotidiana exige una mayor conciencia sobre los riesgos de privacidad y la necesidad de establecer límites claros en la recopilación y el uso de datos personales.
