Premios Nobel, expertos en inteligencia artificial (IA) y científicos han solicitado la creación de una institución internacional que establezca límites claros a los riesgos asociados con la inteligencia artificial. Esta petición se produce justo antes de las reuniones de alto nivel de la Asamblea General de las Naciones Unidas que se celebran en Nueva York esta semana y ha sido respaldada por más de 200 personas y más de 70 organizaciones.
La campaña fue anunciada por Maria Ressa, premio Nobel de la Paz, durante una rueda de prensa virtual en la que Charbel Segerie, director ejecutivo del Centro Francés para la Seguridad de la IA, instó a los gobiernos a alcanzar un acuerdo internacional vinculante sobre las «líneas rojas» que la IA no debe cruzar. «El objetivo no es reaccionar tras un incidente grave, sino prevenir riesgos a gran escala antes de que ocurran», destacó Segerie.
Necesidad de regulación y seguridad en IA
La coalición de expertos propone que los desarrolladores de IA demuestren la seguridad de sus sistemas como condición para acceder al mercado, similar a lo que se exige en la creación de medicamentos y en las plantas nucleares. Las grandes tecnológicas, como Meta, Google y OpenAI, están invirtiendo enormes recursos para alcanzar la «superinteligencia» o inteligencia artificial general (IAG), un concepto que podría volverse realidad en la próxima década.
Stuart Russell, profesor de la Universidad de Berkeley, señaló que la IA está diseñada para imitar el comportamiento humano, que busca alcanzar diversos objetivos. «Los sistemas de IA, inevitablemente, persiguen estos objetivos por su cuenta, lo que los convierte en intrínsecamente inseguros», afirmó Russell. Lo que más le preocupa es que los desarrolladores no tienen planes para controlar los sistemas de IA, y los gobiernos tampoco han establecido requisitos al respecto.
Russell advirtió que existe una probabilidad «significativa» de una catástrofe comparable al accidente nuclear de Chérnobil, ya que la IA podría ser responsable de un sabotaje coordinado de sistemas críticos como las finanzas, las comunicaciones o las redes eléctricas. «La otra posibilidad es una catástrofe mucho mayor, donde la humanidad perdería el control de manera irreversiblemente», concluyó el profesor.
Iniciativas y pasos hacia la regulación global
Por su parte, Niki Iliadis, directora de Gobernanza Global de IA en The Future Society, subrayó que ya se han dado «primeros pasos importantes», como la creación del código de prácticas de la Unión Europea. Sin embargo, enfatizó que es necesario establecer regulaciones «globales y aplicables». Iliadis sugirió que podría ser necesaria la creación de una nueva institución internacional que defina límites globales para la IA y supervise su cumplimiento.
El llamado a la acción de estos expertos resuena en un momento en que el desarrollo de la inteligencia artificial avanza a pasos agigantados, y la necesidad de una regulación efectiva se hace cada vez más urgente para asegurar un futuro seguro y controlado en este ámbito.
