DES 2025: La experta en inteligencia artificial, Margaret Mitchell, ha lanzado una advertencia urgente sobre la necesidad de integrar la ética en el desarrollo de la tecnología. Durante su intervención en el evento celebrado en Málaga, Mitchell destacó cómo la falta de consideración ética puede resultar en consecuencias devastadoras para la sociedad.
Mitchell, conocida por su trabajo en empresas como Google y Microsoft, cofundó el equipo de ética de IA en Google, pero fue despedida en 2021 tras denunciar prácticas opacas. Actualmente, es Chief Ethics Scientist en Hugging Face, donde aboga por un enfoque más responsable en la IA. Según ella, «la ética debería ser un principio estructural en todo desarrollo tecnológico».
La especialista recordó un incidente en el que un sistema de IA interpretó una tragedia como algo positivo, subrayando el sesgo inherente en los algoritmos. «El sesgo de la IA es que todo es felicidad, pero interpreta las tragedias como algo positivo», advirtió. Este tipo de errores pone en relieve la urgencia de abordar la ética desde el diseño hasta la implementación de sistemas automatizados.
En su conversación, Mitchell también abordó el fenómeno del “ethics washing”, donde las empresas pretenden ser éticas sin hacer cambios significativos en su cultura. La especialista instó a que se reconozcan y gestionen los sesgos que persisten en los modelos de IA actuales. «Aunque hay un progreso en el discurso sobre la ética, la cultura tecnológica aún no ha cambiado fundamentalmente», afirmó.
Su trabajo con el nuevo dataset SHADES, que incluye 16 idiomas, busca erradicar estereotipos culturales y lingüísticos en los modelos de lenguaje. «Cada país tiene sus propios estereotipos y necesitamos voces locales para detectarlos», explicó.
Mitchell también hizo hincapié en que la regulación es posible y necesaria, desafiando la idea de que la tecnología evoluciona demasiado rápido para ser regulada. «Los reguladores deben centrarse en proteger los derechos fundamentales de las personas, independientemente de la tecnología», afirmó.
La activista, que se considera más una reformadora que una activista, destacó la importancia de mantener un criterio personal en un entorno empresarial que a menudo carece de moralidad. «Una empresa no tiene moralidad, así que hay que mantener tu criterio personal», dijo.
Con la presión de las nuevas generaciones que exigen cambios en la ética de la IA, Mitchell concluyó que es esencial que los desarrolladores y las empresas asuman responsabilidades serias en la creación de tecnologías que beneficien a la sociedad. «La narrativa de que no se puede regular es una excusa para evitar rendir cuentas», sentenció.
La participación de Margaret Mitchell en el DES 2025 no solo resalta la relevancia del debate sobre la ética en la inteligencia artificial, sino que también impulsa a la industria a actuar y adoptar un enfoque más consciente y responsable hacia el desarrollo tecnológico.
