Sin embargo, la UE ha introducido una serie de excepciones por «seguridad nacional» que, según los críticos, pueden dar lugar a graves violaciones de los derechos fundamentales. Los que querían estas excepciones, según revela ahora una investigación de la web Investigative Europe, eran Francia, apoyada también por Italia. «Lejos de las promesas iniciales, este texto está hecho a medida de la industria tecnológica y de las fuerzas policiales europeas», afirma Félix Treguer, del grupo de defensa de los derechos digitales La Quadrature du Net.

En un momento en el que la industria digital tiene cada vez más peso político, como demuestra lo que está ocurriendo en Estados Unidos con la segunda presidencia de Donald Trump, el asunto está especialmente candente.

El lunes, como informa la agencia Reuters, Trump revocó la orden ejecutiva sobre Inteligencia Artificial firmada en 2023 por el entonces presidente Joe Biden, que obligaba a los desarrolladores de sistemas de inteligencia artificial que supongan riesgos para la seguridad nacional, la economía, la salud o la seguridad pública a compartir los resultados de las pruebas de seguridad con el Gobierno estadounidense antes de ponerlos a disposición del público

Pero incluso la normativa europea -presentada siempre por la UE como la más avanzada a nivel mundial- corre el riesgo de ser menos eficaz de lo prometido. Veamos por qué.

Entre las formas de «dilución» de la Ley de la IaA, señala Il Fatto Quotidiano, está el artículo añadido al reglamento en discusión, que «permite a las empresas rellenar una autocertificación para decidir si su producto es de “alto riesgo” o no, liberándolas así de las obligaciones de transparencia». «Se deja un alto grado de subjetividad a las empresas, lo que parece estar en contradicción con el objetivo general de la ley sobre IAI, a saber, abordar el riesgo de daño que plantean los sistemas de IAI de alto riesgo», reza un documento interno del servicio jurídico del Parlamento Europeo revelado por Investigate Europe.

Los sistemas de Inteligencia Artificial que entrañan «riesgos inaceptables» incluyen:

el uso de técnicas subliminales, manipuladoras o engañosas para influir en el comportamiento de las personas y perjudicar su toma de decisiones;

la recogida de datos biométricos para clasificar a las personas en función de atributos sensibles (raza, opiniones políticas, afiliación sindical, creencias religiosas o filosóficas, vida sexual u orientación sexual)

clasificar a individuos o grupos en función de su comportamiento social o rasgos personales y tratarlos de forma desfavorable o desventajosa en función de esta clasificación (lo que se conoce como scoring social);

evaluar el riesgo de que un individuo cometa delitos penales basándose únicamente en perfiles o rasgos de personalidad

compilar bases de datos de reconocimiento facial mediante la adquisición genérica de imágenes faciales de Internet o de grabaciones de CCTV

la interpretación de emociones en lugares de trabajo o instituciones educativas a partir de lecturas biométricas;

el reconocimiento facial y, en general, la identificación biométrica remota (RBI) de personas «en tiempo real» en espacios abiertos al público.

Sin embargo, estas normas generales prevén excepciones para proteger la seguridad nacional. La Ley de Inteligencia Artificial permite a las fuerzas y cuerpos de seguridad el reconocimiento facial y la identificación biométrica a distancia «en tiempo real» cuando investiguen 16 delitos especialmente graves (como asesinatos, violaciones, robos a mano armada, tráfico de drogas y armas ilegales, delincuencia organizada, delitos contra el medio ambiente); cuando busquen a personas desaparecidas, víctimas de secuestros, trata de seres humanos o explotación sexual; y cuando necesiten prevenir una amenaza sustancial e inminente para la vida o un atentado terrorista.

Resulta paradójico que Italia, que a nivel nacional ha restringido en gran medida el uso de las escuchas telefónicas tradicionales en las investigaciones penales, luego presionara a nivel europeo junto con Francia (pero también Hungría, Rumanía, Suecia, la República Checa, Lituania, Finlandia y Bulgaria) para extender las formas de vigilancia basadas en la inteligencia artificial.

La Ley de Inteligencia Artificial prevé otras dos excepciones importantes para las fuerzas del orden. De hecho, el reglamento permite la interpretación de emociones por parte de la inteligencia artificial con fines de seguridad en puestos fronterizos o centros de control de inmigración. Y utilizar algoritmos predictivos para identificar quién podría cometer delitos en el futuro siempre que estas predicciones se sometan a evaluación humana, lo que de hecho siempre es el caso (esto suena al «sistema pre-crimen» imaginado en la película distópica protagonizada por Tom Cruise Minority Report). Dado lo que ahora sabemos sobre los sesgos inconscientes que limitan la fiabilidad de los algoritmos y la inteligencia artificial, es posible que estos sistemas de predicción de la delincuencia lleven a identificar como posibles delincuentes a personas que no lo son en absoluto, con todas las consecuencias que ello conlleva.

Según el Centro para la Tecnología y la Democracia (Cdt), una destacada organización independiente de defensa de los derechos civiles y la libertad frente al control digital, las consecuencias son graves: «La excepción de seguridad nacional de la Ley de Inteligencia Artificial, si se lee literalmente, permitiría la creación y el uso de tecnologías invasivas y poco éticas que, de otro modo, serían ilegales».

A través de las excepciones de seguridad nacional, «una agencia de aplicación de la ley podría tratar de evitar las restricciones de la Ley sobre la identificación biométrica en tiempo real realizada en espacios públicos simplemente aludiendo a un propósito de seguridad nacional. Esta laguna puede ser peligrosamente interpretada y aplicada, abriendo la puerta a la vigilancia masiva legitimada bajo el velo de actividades de «seguridad nacional»», escribe además el Cdt.

Luego hay otro aspecto, que afecta a las empresas tecnológicas que controlan las tecnologías de reconocimiento facial y vigilancia digital. «Estas exenciones también afectarán a empresas privadas, o posiblemente de terceros países, que suministran tecnología de Inteligencia Artificial a la policía y a las fuerzas del orden.

El texto establece que se permite la vigilancia 'independientemente de la entidad que lleve a cabo estas actividades'», escribe Investigative Europe. Es decir, las empresas tecnológicas tendrán acceso a la información que proporcionen a las fuerzas del orden. Es otro ejemplo del poder del «complejo tecnológico-industrial» del que Joe Biden habló tardíamente en su último discurso como presidente.

Fuente: www.corriere.it