La Unión Europea está considerando un reglamento que permitiría el escaneo de mensajes privados en plataformas digitales con el objetivo de detectar el abuso sexual infantil. Sin embargo, este enfoque plantea serias preocupaciones sobre la privacidad y la posibilidad de errores en la identificación de inocentes como culpables.
Recientemente, el Parlamento Europeo detuvo la extensión del programa Chat Control por un estrecho margen. Este programa, que se desarrolló durante cinco años, permitía a las plataformas escanear mensajes en busca de contenido de abuso sexual infantil, aunque no era obligatorio. La propuesta futura, conocida como Chat Control 2.0, está en discusión y podría introducir requisitos técnicos mucho más estrictos.
El Chat Control 1.0 utilizaba un sistema de comparación de huellas digitales de imágenes conocidas para identificar material de abuso. A pesar de sus limitaciones, al menos tenía un enfoque claro. Por otro lado, el nuevo reglamento buscaría detectar contenido desconocido y comportamientos de grooming, usando inteligencia artificial, lo que podría incrementar considerablemente el riesgo de falsos positivos.
Los informes indican que las tasas de error en los sistemas de detección pueden variar entre el 13% y el 20%, lo que implica que muchas alertas recaen sobre personas inocentes. Además, la detección de grooming es particularmente complicada, ya que requiere un entendimiento profundo del contexto y la intención detrás de los mensajes, algo que la inteligencia artificial aún no puede garantizar de manera efectiva.
Los críticos de esta iniciativa, incluidos algunos miembros del Parlamento Europeo, argumentan que este tipo de vigilancia masiva podría llevar a la creación de un entorno donde millones de personas podrían ser erróneamente acusadas, lo que sobrecargaría a las fuerzas del orden y desviaría recursos de investigaciones más críticas.
El camino a seguir es incierto. Mientras que el Chat Control 1.0 ha sido bloqueado, las negociaciones sobre el nuevo reglamento continúan, y se espera que un acuerdo se alcance en los próximos años. La cuestión que queda es si el objetivo real es la protección de los menores o simplemente un mayor control sobre las comunicaciones privadas.
La situación es aún más preocupante para las víctimas de abusos, quienes se sienten inseguras al compartir sus experiencias en plataformas que podrían marcar sus mensajes como problemáticos. La regulación, que ha sido apodada Chat Control, refleja un enfoque más amplio sobre la privacidad frente a la necesidad de proteger a los menores.
