Literalmente no sorprende a nadie, la combinación de cheques azules pagados y la IA generativa hace que sea muy fácil que se propague información errónea. El lunes por la mañana, una imagen aparentemente generada por IA de una explosión en el Pentágono circuló en Internet, a pesar de que el evento en realidad no sucedió.
En aproximadamente media hora, la imagen apareció en una cuenta verificada de Twitter llamada «Bloomberg Feed», que podría confundirse muy fácilmente con una cuenta real afiliada a Bloomberg, especialmente porque tenía una marca de verificación azul. Esta cuenta ha sido suspendida desde entonces. La red de noticias controlada por el estado ruso RT también compartió la imagen, según las capturas de pantalla que los usuarios capturaron antes de que se eliminara el tweet. Varias cuentas de Twitter con cientos de miles de seguidores, como Desde Itaone, Defensor OSINT Y Gráfico de ballenas compartió. Incluso un Red de televisión india informó de la falsa explosión del Pentágono. El origen de esta imagen y noticias falsas no está claro de inmediato.
No es la primera vez que una imagen falsa logra engañar a Internet, pero hay más en juego cuando el evento falso es una explosión en un edificio del gobierno de EE. UU., en lugar de que el Papa lleve un abrigo de Balenciaga. Algunos han informado que la imagen falsa podría estar vinculada a un movimiento de 25 puntos básicos en el S&P 500, pero la caída no duró mucho y no hay forma de probar que fue completamente el resultado de este engaño. El incidente plantea la cuestión de cómo se podría usar la IA generativa para jugar con el mercado de valores en el futuro; después de todo, Reddit lo hizo.
La desinformación es un problema tan antiguo como Internet, pero el crecimiento simultáneo de la IA generativa y los cambios en el sistema de verificación de Twitter proporcionan un terreno particularmente fértil. Desde el principio, el plan del propietario de Twitter, Elon Musk, de eliminar los cheques azules existentes de su estado y permitir que cualquiera pagara por el símbolo fue un desperdicio. Si bien sabemos que las marcas azules ya no indican legitimidad, es difícil romper un hábito visual que ha cultivado durante casi 15 años: si ve una cuenta llamada «Bloomberg Feed» que muestra una marca azul en un ataque al Pentágono, usted Probablemente estés predispuesto a pensar que es real. A medida que se vuelve cada vez más difícil detectar imágenes falsas, solo continuaremos viendo noticias falsas como esta en el futuro.