Investigación de la BBC revela que la IA puede difundir información falsa
Un periodista de la BBC logró engañar a ChatGPT, Gemini y Google AI con información inventada, exponiendo fallas en los sistemas de inteligencia artificial.
Una investigación de la BBC encendió las alarmas sobre los riesgos de la inteligencia artificial tras demostrar que herramientas como ChatGPT, Gemini y Google AI pueden ser manipuladas fácilmente para difundir información falsa.
El experimento fue realizado por el periodista tecnológico Thomas Germain, quien consiguió engañar a sistemas de IA en pocos minutos mediante la publicación de un artículo falso en internet.
Así lograron engañar a la IA
Según la investigación, Germain publicó una nota en su página web afirmando falsamente que era un “campeón mundial de comer hot dogs”. Poco después, algunas herramientas de inteligencia artificial comenzaron a repetir esa información como si fuera real.
El caso dejó en evidencia cómo ciertos chatbots y motores de búsqueda impulsados por IA toman datos desde páginas web o publicaciones online sin verificar adecuadamente la veracidad de la información.
La BBC también detectó casos donde estas técnicas fueron usadas para manipular respuestas sobre salud, suplementos médicos, finanzas personales e inversiones. Esto deja la posibilidad de que empresas sin escrúpulos puedan aprovecharse de este problema, publicando artículos, blogs o reseñas falsas para que herramientas de inteligencia artificial como ChatGPT o Google AI recomienden sus productos o servicios como si fueran confiables.
Expertos alertan sobre el peligro de la desinformación con IA
Especialistas en SEO e inteligencia artificial advirtieron que este problema puede tener consecuencias graves debido a que millones de personas utilizan chatbots como fuente principal de información.
Lily Ray, fundadora de Algorythmic y experta en posicionamiento web, explicó que la IA suele entregar una sola respuesta al usuario, lo que hace más fácil que las personas crean información falsa sin contrastarla.
“Debes asumir que te están manipulando hasta que existan mejores sistemas”, señaló la especialista.
Google toma medidas tras investigación de la BBC
Tras la difusión del informe, Google actualizó sus políticas antispam para dejar claro que manipular respuestas generadas por inteligencia artificial infringe sus normas.
La empresa indicó que puede sancionar o reducir la visibilidad de sitios web que intenten alterar los resultados entregados por sus sistemas de IA.
Sin embargo, investigadores consideran que el problema todavía continúa y que muchas personas siguen utilizando métodos similares para posicionar contenido engañoso.
¿Por qué preocupa la manipulación de la inteligencia artificial?
Expertos advierten que las respuestas falsas generadas por IA podrían afectar decisiones importantes relacionadas con salud, compras, economía e inclusa temas políticos.
Actualmente, más de mil millones de personas usan herramientas de inteligencia artificial regularmente en todo el mundo, mientras que Google AI aparece en miles de millones de búsquedas mensuales.
Por ello, especialistas recomiendan verificar información en fuentes oficiales y no confiar completamente en las respuestas automáticas generadas por inteligencia artificial.