La Unión Europea, Estados Unidos, Reino Unido y seis países más firmaron el primer tratado mundial jurídicamente vinculante para regular el uso y desarrollo de la inteligencia artificial (IA). El documento se conoce como Framework Convention y pretende sentar un marco normativo para conseguir que está tecnología 2sea plenamente compatible” con los derechos humanos, la democracia y el estado de derecho.
El Consejo de Europa (CDE), una organización internacional que promueve la democracia, estuvo a cargo de la elaboración del convenio. Marija Pejčinović Burić, secretaria general de la CDE, asegura “debemos garantizar que el auge de la IA respete nuestros estándares, en lugar de socavarlos. El Framework Convention está diseñado para garantizar precisamente eso. Es un tratado abierto con un alcance potencialmente mundial. Espero que estas sean las primeras de muchas firmas y que sean seguidas rápidamente por ratificaciones, para que el tratado pueda entrar en vigor lo antes posible”.
Además de los delegados de la Unión Europea, Estados Unidos y Reino Unido, representantes de Andorra, Georgia, Islandia, Noruega, la República de Moldavia, San Marino e Israel firmaron el tratado. La iniciativa se ha abierto para que cualquier otro país se integre a la iniciativa.
Así es el primer acuerdo vinculante sobre IA
Los firmantes se han comprometido a llevar a cabo evaluaciones “de manera iterativa” sobre los posibles riesgos que dicha tecnología puede representar para los derechos humanos, la democracia y el estado de derecho. Este compromiso busca abordar los impactos negativos que la IA puede tener en la sociedad, asegurando que se implementen medidas preventivas y de mitigación ante posibles amenazas. Además, deberán a las autoridades competentes la facultad de “introducir prohibiciones o moratorias sobre determinadas aplicaciones de sistemas de IA”, en casos donde se considere que el uso de estas tecnologías podría resultar perjudicial.
El acuerdo también establece la necesidad de crear mecanismos locales que permitan documentar y compartir con el público la información más importante sobre los sistemas de IA. Esta iniciativa tiene como objetivo proporcionar datos suficientes para que las personas puedan comprender, al menos de manera general, cómo funciona cada algoritmo y cómo se emplea en los diferentes ámbitos sociales, políticos y de interés general. De esta forma, se promueve la transparencia y se facilita el acceso a la información relacionada con la IA.
Por otro lado, se estipula que, si los usuarios consideran que las decisiones tomadas mediante el uso de un sistema de IA, o basadas sustancialmente en él, son injustas, discriminatorias o erróneas, deben tener la posibilidad de presentar una reclamación. Este derecho busca garantizar que las personas afectadas por decisiones automatizadas puedan exigir una revisión o corrección de los resultados, contribuyendo así a un mayor control y supervisión de los sistemas de IA en la sociedad actual. Con estas disposiciones, se pretende proteger los derechos de los ciudadanos y evitar el mal uso de esta tecnología en procesos críticos.
Los términos fueron negociados por 46 Estados europeos y 11 países no miembros de la Unión Europea, entre los que destacan México, Argentina, Canadá, Costa Rica, la Santa Sede, Uruguay y Perú. El cumplimiento del convenio será vigilado por la Conferencia de las Partes de las Naciones Unidas.
