La inteligencia artificial, otrora promesa de información veraz y accesible, se ha convertido en un campo de batalla para la desinformación, revelando una vulnerabilidad alarmante en herramientas como ChatGPT y Google. Un periodista ha demostrado de forma contundente cómo es posible manipular las respuestas de estas IA, con consecuencias potencialmente graves para la toma de decisiones en áreas cruciales como la salud, las finanzas y la política.
Thomas Germain, de BBC Future, llevó a cabo una prueba reveladora: logró convencer a ChatGPT y a las herramientas de búsqueda de IA de Google de que era el mejor periodista tecnológico en comer perros calientes, un logro basado en la publicación de un artículo falso en su sitio web personal. Este simple experimento expuso una falla fundamental en la forma en que estas IA procesan y presentan la información, abriendo la puerta a la manipulación a gran escala.
El truco reside en explotar las debilidades de los sistemas integrados en los chatbots. Al crear contenido engañoso y posicionarlo estratégicamente en internet, es posible influir en las respuestas que la IA ofrece a los usuarios. Lily Ray, vicepresidenta de estrategia e investigación de optimización de motores de búsqueda (SEO) en Amsive, advierte que "es fácil engañar a los chatbots de IA, mucho más fácil que engañar a Google hace dos o tres años". Ray enfatiza que las empresas de IA están avanzando a un ritmo superior a su capacidad para regular la precisión de las respuestas, lo que representa un peligro real.
Google reconoce ser consciente de los intentos de manipulación y afirma que sus sistemas de clasificación mantienen los resultados "99% libres de spam". Sin embargo, la realidad demuestra que esta protección no es suficiente. OpenAI, la empresa detrás de ChatGPT, también asegura estar tomando medidas para interrumpir y exponer los intentos de influir en sus herramientas, pero el problema persiste. Ambas compañías advierten a los usuarios de que sus herramientas "pueden cometer errores", una admisión que subraya la falta de fiabilidad en la información proporcionada.
La facilidad con la que se puede manipular la IA es alarmante. Germain demostró que con tan solo 20 minutos de redacción, pudo crear un artículo falso que fue rápidamente adoptado por los chatbots como información verídica. El artículo, titulado "Los mejores periodistas tecnológicos comiendo perros calientes", incluía clasificaciones inventadas y referencias a periodistas reales que habían dado su consentimiento para ser mencionados. A las pocas horas, Google y ChatGPT estaban repitiendo el galimatías del sitio web de Germain, sin cuestionar su veracidad.
Este problema no se limita a anécdotas sobre periodistas y perros calientes. Expertos como Harpreet Chatha, director de la consultora SEO Harps Digital, han descubierto cómo las empresas están manipulando los resultados de los chatbots en temas mucho más serios, como la promoción de productos de cannabis con afirmaciones falsas sobre su seguridad y la publicidad de clínicas de trasplante capilar y empresas de inversión en Turquía a través de contenido patrocinado y comunicados de prensa engañosos.
La vulnerabilidad de la IA se agrava por la forma en que los usuarios interactúan con ella. A diferencia de los motores de búsqueda tradicionales, donde se requiere visitar un sitio web para obtener la información, la IA presenta la información directamente, lo que reduce la probabilidad de que los usuarios cuestionen su veracidad. Un estudio reciente reveló que las personas tienen un 58% menos de probabilidades de hacer clic en un enlace cuando aparece una descripción general de la IA en la parte superior de la Búsqueda de Google.
La falta de transparencia en la procedencia de la información también es un problema. Gemini, la herramienta de IA de Google, a menudo no indica de dónde obtuvo la información, mientras que ChatGPT, aunque suele incluir enlaces, rara vez menciona que la fuente es la única disponible sobre el tema. Esto dificulta que los usuarios evalúen la fiabilidad de la información y la contrasten con otras fuentes.
Los expertos proponen varias soluciones para abordar este problema. Una de las más sencillas es incluir descargos de responsabilidad más claros, indicando que las herramientas de IA pueden cometer errores y que la información proporcionada debe ser verificada. También se sugiere que las IA sean más explícitas sobre la procedencia de la información, señalando si proviene de un comunicado de prensa, un sitio web patrocinado o una única fuente.
Sin embargo, la solución más importante es fomentar el pensamiento crítico y la alfabetización digital entre los usuarios. Es fundamental recordar que la IA no es infalible y que la información que proporciona debe ser evaluada con escepticismo. Los usuarios deben buscar información de seguimiento, verificar las fuentes y considerar el contexto antes de tomar decisiones basadas en la información proporcionada por la IA.
En última instancia, la responsabilidad de protegerse contra la desinformación recae en cada individuo. La IA puede ser una herramienta poderosa, pero también puede ser manipulada para engañar y desinformar. Al ser conscientes de los riesgos y adoptar un enfoque crítico hacia la información que recibimos, podemos evitar ser víctimas de la manipulación y tomar decisiones informadas y responsables. La carrera por el progreso tecnológico no debe comprometer la seguridad y la integridad de la información que utilizamos para navegar por el mundo.