La irrupción de contenidos generados por inteligencia artificial (IA) ha llevado a Sam Altman, CEO de OpenAI, a considerar la teoría de la «internet muerta». Este concepto sugiere que el contenido creado automáticamente podría superar al humano, lo que aumenta el riesgo de manipulación y desinformación en las redes sociales. Altman expresó su preocupación en un mensaje de Twitter, señalando que ha notado un aumento de cuentas en la plataforma X (anteriormente Twitter) gestionadas por modelos de lenguaje de IA.
Puedes ver el video relacionado a continuación:
La reacción de Altman recuerda a la del doctor Frankenstein de la novela de Mary Shelley, donde el creador se horroriza ante su propia creación. Este paralelismo destaca el miedo que siente Altman por el impacto negativo que puede tener la IA en el contenido online. Según él, el auge de cuentas automatizadas puede legitimar la desinformación, haciéndola más difícil de detectar para los usuarios.
El auge de la manipulación en redes sociales
El director global de tecnología de Sage, Aaron Harris, también se muestra cauteloso sobre este fenómeno, indicando que, aunque no lo llamaría «internet muerta», hay un cambio significativo en la forma de interactuar con el contenido. «La cuestión ahora es cómo filtramos y verificamos la información en la que la gente puede confiar», afirma Harris, resaltando la importancia de diseñar tecnologías que restauren la confianza en la información.
Investigadores de las universidades de Nueva Gales del Sur y Melbourne, Jake Renzella y Vlada Rozova, enfatizan que las redes sociales son la principal fuente de información para muchos usuarios, y que el crecimiento de cuentas impulsadas por IA puede influir en la opinión pública. Un estudio de la empresa de seguridad Imperva indica que casi la mitad del tráfico en Internet proviene de bots, destacando la magnitud del problema.
Contenidos virales y la evolución de la desinformación
Los bots no solo generan contenido, sino que también imitan las fórmulas que permiten su difusión masiva. Investigadores de la Universidad de Vermont y el Instituto Santa Fe han publicado un estudio en Physical Review Letters, donde demuestran que la propagación de información evoluciona en tiempo real, siguiendo un modelo matemático de «cascadas de autorrefuerzo». Este principio se asemeja a los incendios forestales, que pueden volverse más intensos bajo ciertas condiciones.
La coautora del estudio, Juniper Lovato, destaca que este trabajo permite comprender mejor cómo se forman las creencias y la desinformación en las redes. A medida que la IA se integra en la creación de contenido, los riesgos de viralización de desinformación se multiplican, lo que exige una mayor conciencia por parte de los usuarios.
Por otro lado, el estudio también revela la «Paradoja de la susceptibilidad», que indica que los amigos de un usuario suelen ser más influenciables que el propio usuario, lo que puede explicar cómo ciertas tendencias se popularizan en línea. «Saber cómo se comportan los amigos de un usuario puede ser suficiente para predecir su comportamiento», advierten los investigadores.
El desafío para contrarrestar estos efectos no es solo normativo. Según el informe de Google Deepmind sobre la ética de la IA, es necesario establecer una relación equilibrada entre el asistente de IA, el usuario y la sociedad para asegurar que la tecnología funcione de manera segura y beneficie a todos.
Aaron Harris considera que es posible crear una internet ética, aunque advierte que no sucederá por casualidad. La transparencia y la responsabilidad deben ser los pilares del diseño y la regulación de la IA. «Las empresas deben lograr que sus resultados sean auditables y comprensibles», enfatiza.
La preocupación por el contenido generado por bots está en aumento, y la clave está en encontrar un balance que no implique renunciar a los avances tecnológicos, sino integrarlos de manera que se priorice el bienestar del usuario. La responsabilidad en la creación y difusión de contenido debe ser innegociable para asegurar un entorno digital más humano y ético.
