En respuesta al resultado de la histórica Ley de Inteligencia Artificial (IA) del bloque después de un tenso debate entre los estados miembros de la Unión Europea, la Comisión Europea y el Parlamento Europeo, Mher Hakobyan, asesora de defensa de la inteligencia artificial, dijo:
“Las tres instituciones europeas (Comisión, Consejo y Parlamento) dieron luz verde a la vigilancia digital distópica en los 27 Estados miembros de la UE, sentando un precedente devastador a nivel mundial en materia de regulación de la inteligencia artificial. Por lo tanto, no garantizar una prohibición total del reconocimiento facial es una oportunidad enormemente perdida para detener y prevenir daños colosales a los derechos humanos, el espacio cívico y el Estado de derecho que ya están amenazados en toda la UE", transmitió Mher Hakobyan sobre la Ley de IA.
Ley de IA: Ataque a los derechos humanos
.jpg.558.webp)
"UE: La decisión del bloque de no prohibir la vigilancia pública masiva en la Ley de IA sienta un precedente mundial devastador", señaló Amnistía Internacional
Según ella, es decepcionante ver al Parlamento Europeo sucumbir a la presión de los Estados miembros para que dé marcha atrás en su posición original, que ofrecía fuertes protecciones, incluida una prohibición incondicional del reconocimiento facial en vivo con la Ley de IA.
Si bien sus defensores argumentan que el borrador de la Ley de IA sólo permite un uso limitado del reconocimiento facial y está sujeto a salvaguardias, la investigación de Amnistía en la ciudad de Nueva York, los Territorios Palestinos Ocupados, Hyderabad y otros lugares demuestra que ninguna salvaguardia puede prevenir los daños a los derechos humanos que inflige el reconocimiento facial, razón por la cual se necesita una prohibición total.
Por lo tanto, no garantizar una prohibición total del reconocimiento facial es una oportunidad enormemente perdida para detener y prevenir daños colosales a los derechos humanos, el espacio cívico y el Estado de derecho que ya están amenazados en toda la UE.
Los legisladores tampoco prohibieron la exportación de tecnologías dañinas de IA, incluidas las de puntuación social, que serían ilegales en la UE. Permitir que las empresas europeas se beneficien de tecnologías que la Ley de IA reconoce que dañan inadmisiblemente los derechos humanos en sus estados de origen establece un peligroso doble rasero.
Se prevén intensas reuniones técnicas tras el acuerdo político provisional de alto nivel antes de que un texto final pueda adoptarse como Ley de IA.
Amnistía Internacional ha estado pidiendo que se prohíba el uso, desarrollo, producción, venta y exportación de tecnología de reconocimiento facial con fines de identificación tanto por parte de agencias estatales como de actores del sector privado. Señala que con esto y la Ley de IA, han formado parte de una coalición de organizaciones de la sociedad civil liderada por la Red Europea de Derechos Digitales (EDRi), que ha estado pidiendo una regulación de la inteligencia artificial de la UE que proteja y promueva los derechos humanos, incluidos los derechos de las personas en movimiento.
Las inteligencias artificiales pueden plantear varios riesgos potenciales, incluyendo:
1. Sesgo algorítmico: Las inteligencias artificiales pueden reflejar sesgos existentes en los datos con los que se entrenan, lo que puede llevar a decisiones parciales o discriminatorias.
2. Desplazamiento laboral: La automatización impulsada por inteligencia artificial podría eliminar empleos o cambiar drásticamente ciertos sectores laborales, lo que puede tener repercusiones sociales y económicas.
3. Privacidad y seguridad: El uso indebido de datos personales y la vulnerabilidad de los sistemas de inteligencia artificial a ciberataques plantean preocupaciones sobre la privacidad y la seguridad.
4. Dependencia excesiva: La dependencia excesiva de la inteligencia artificial en diversas áreas puede hacer que las personas confíen demasiado en la tecnología, lo que podría ser problemático si la IA falla o comete errores.
5. Riesgos éticos: Las decisiones tomadas por las IA en áreas críticas como la medicina o la justicia plantean dilemas éticos sobre quién es responsable de esas decisiones.
A pesar de estos peligros, se están realizando esfuerzos para desarrollar IA ética, responsable y regulada para minimizar estos riesgos y aprovechar los beneficios que la inteligencia artificial puede ofrecer