El Parlamento Europeo adopta un proyecto para proteger a los ciudadanos de los peligros de la IA
Entre las cuestiones que plantean las herramientas de inteligencia artificial se encuentran las relativas a las libertades públicas. En los últimos días se ha visto un impulso político, especialmente en Occidente, con respecto a las medidas de limitación. El Parlamento Europeo acaba de aprobar un proyecto de reglamento en este sentido, mientras que el Reino Unido está tratando de hacer su parte y está planeando una cumbre mundial sobre IA.
El Parlamento Europeo votó el 14 de junio a favor deun reglamento sobriamente titulado "ley de inteligencia artificial" que había sido elaborado por la Comisión Europea en 2021.
El proyecto fue aprobado por abrumadora mayoría, con 499 votos a favor, 28 en contra y 93 diputados se abstuvieron. Todavía tiene que discutirse con el Consejo de la Unión Europea, en el que están representados los gobiernos de los 27 Estados miembros. De aceptarse, sería la primera vez en el mundo que una organización política adopta tal texto.
El proceso había quedado en suspenso debido a la aparición de nuevos debates planteados por ChatGPT y el generador de imágenes Midjourney, en particular el riesgo de manipulación de la información y problemas de derechos de autor.
Si se adopta el texto, los usuarios de estas herramientas deberán declarar si en la realización de las nuevas obras se han utilizado documentos ya existentes y protegidos, y los servicios que ofrezcan estas IA generativas deberán instalar un sistema que permita discriminar entre los reales y los falsos.Imágenes.
Las imágenes recientes que muestran al Papa con una chaqueta de plumas o a Donald Trump huyendo han dado la vuelta al mundo, y no se puede descartar el uso de imágenes con fines de manipulación política durante las campañas electorales.
Crédito social y vigilancia masiva
El proyecto se presenta como una barrera al principio del crédito social y afirma que uno de los ámbitos en los que “el uso de sistemas de IA merece especial atención es el acceso y el derecho a determinados servicios y prestaciones esenciales, públicos y privados, incluidos los servicios de salud. y servicios esenciales, que incluyen, entre otros, vivienda, electricidad, calefacción/refrigeración e Internet, [en negrita en el texto, nota del editor] para permitir que los ciudadanos participen plenamente en la sociedad o mejoren su nivel de vida".
Los parlamentarios también se pronunciaron en contra del uso de la IA en la perspectiva de una sociedad de vigilancia masiva. El proyecto de reglamento se opone a los sistemas de identificación biométrica remota “en tiempo real” con fines policiales, salvo para la persecución de delitos graves y con autorización judicial.
También prevé la prohibición de la recopilación no dirigida de imágenes faciales de Internet o filmaciones de CCTV con el fin de crear bases de datos que contradigan los derechos humanos y el respeto a la privacidad. El texto dice lo siguiente:
"La captura indiscriminada y no dirigida de datos biométricos de las redes sociales o imágenes de CCTV para crear o expandir bases de datos de reconocimiento facial refuerza la percepción de vigilancia masiva y puede dar lugar a graves violaciones de los derechos fundamentales, incluido el derecho a la privacidad. El uso de sistemas de IA con por lo tanto, debe prohibirse este destino en lugares de acceso público".
La votación se produce una semana después de que el primer ministro británico, Rishi Sunak, anunciara una primera cumbre mundial de IA que se celebrará en su país este otoño.
Mientras Estados Unidos y la Unión Europea pedían el 31 de mayo, durante la cuarta edición del Consejo de Comercio y Tecnología, que se estableciera rápidamente un "código de conducta" voluntario sobre la IA que los actores del sector se comprometerían a respeto.
El Reino Unido, que ha abandonado la Unión Europea, no quiere quedarse fuera del debate y espera albergar la sede de un posible regulador mundial de la IA.
Jean Sarpedón
