FORO ECONOMICO MUNDIAL INTELIGENCIA ARTIFICIAL
Editor , Foro Económico Mundial 28 de marzo de 2023
La Ley de Inteligencia Artificial propuesta clasificaría los sistemas de IA por riesgo y exigiría varios requisitos de desarrollo y uso.
Este artículo es parte de: Dando forma al futuro de la inteligencia artificial y el aprendizaje automático
- La Unión Europea está considerando una legislación de gran alcance sobre inteligencia artificial (IA).
- La Ley de Inteligencia Artificial propuesta clasificaría los sistemas de IA por riesgo y exigiría varios requisitos de desarrollo y uso.
- Los legisladores europeos aún están debatiendo los detalles, y muchos enfatizan la necesidad de fomentar la innovación en IA y proteger al público.
La Unión Europea (UE) está considerando un nuevo marco legal que tiene como objetivo reforzar significativamente las regulaciones sobre el desarrollo y uso de la inteligencia artificial.
La legislación propuesta, la Ley de Inteligencia Artificial (IA) , se enfoca principalmente en fortalecer las reglas sobre la calidad de los datos, la transparencia, la supervisión humana y la responsabilidad. También tiene como objetivo abordar cuestiones éticas y desafíos de implementación en varios sectores que van desde la atención médica y la educación hasta las finanzas y la energía.
“[AI] ha existido durante décadas, pero ha alcanzado nuevas capacidades impulsadas por el poder de la computación”, dijo Thierry Breton, Comisionado de Mercado Interno de la UE, en un comunicado . La Ley de Inteligencia Artificial tiene como objetivo «fortalecer la posición de Europa como un centro global de excelencia en IA desde el laboratorio hasta el mercado, garantizar que la IA en Europa respete nuestros valores y reglas, y aprovechar el potencial de la IA para uso industrial».
La piedra angular de la Ley de IA es un sistema de clasificación que determina el nivel de riesgo que una tecnología de IA podría representar para la salud y la seguridad o los derechos fundamentales de una persona. El marco incluye cuatro niveles de riesgo: inaceptable, alto, limitado y mínimo.
Se permite el uso de sistemas de IA con riesgo limitado y mínimo, como filtros de spam o videojuegos, con pocos requisitos además de las obligaciones de transparencia. Los sistemas que se considera que representan un riesgo inaceptable, como la puntuación social del gobierno y los sistemas de identificación biométrica en tiempo real en espacios públicos, están prohibidos con pocas excepciones.“
En la inteligencia artificial, la confianza es imprescindible, no agradable.”— Margrethe Vestager, vicepresidenta ejecutiva de una Europa adecuada para la era digital
Los sistemas de IA de alto riesgo están permitidos, pero los desarrolladores y usuarios deben cumplir con las normas que requieren pruebas rigurosas, documentación adecuada de la calidad de los datos y un marco de responsabilidad que detalle la supervisión humana. La IA considerada de alto riesgo incluye vehículos autónomos, dispositivos médicos y maquinaria de infraestructura crítica, por nombrar algunos.
La legislación propuesta también describe regulaciones en torno a la llamada IA de propósito general, que son sistemas de IA que pueden usarse para diferentes propósitos con diversos grados de riesgo. Tales tecnologías incluyen, por ejemplo, sistemas de IA generativos de modelo de lenguaje grande como ChatGPT.
Ley de inteligencia artificial de la UE: para aprovechar de forma segura todo el potencial de la IA
“Con esta Ley, la UE está tomando la iniciativa en el intento de hacer que los sistemas de IA se ajusten al futuro que queremos como humanos”, dijo Kay Firth-Butterfield, directora de IA en el Foro Económico Mundial.
La vicepresidenta ejecutiva europea, Margrethe Vestager, y el comisario europeo de Mercado Interior, Thierry Breton, dan una conferencia de prensa sobre el enfoque de la UE hacia la IA en 2021. Imagen: REUTERS
La Ley de Inteligencia Artificial propone fuertes sanciones por incumplimiento. Para las empresas, las multas pueden alcanzar los 30 millones de euros o el 6 % de los ingresos globales. Enviar documentación falsa o engañosa a los reguladores también puede resultar en multas.
“Con estas reglas históricas, la UE encabeza el desarrollo de nuevas normas globales para garantizar que se pueda confiar en la IA”, agregó en un comunicado Margrethe Vestager, vicepresidenta ejecutiva de una Europa adecuada para la era digital . “Nuestras normas, preparadas para el futuro y favorables a la innovación, intervendrán donde sea estrictamente necesario: cuando estén en juego la seguridad y los derechos fundamentales de los ciudadanos de la UE”.
La ley propuesta también tiene como objetivo establecer una Junta Europea de Inteligencia Artificial, que supervisaría la implementación de la regulación y garantizaría una aplicación uniforme en toda la UE. El organismo tendría la tarea de publicar opiniones y recomendaciones sobre los problemas que surjan, así como brindar orientación a las autoridades nacionales.
“La Junta debe reflejar los diversos intereses del ecosistema de IA y estar compuesta por representantes de los Estados miembros”, dice la legislación propuesta.
La Ley de Inteligencia Artificial fue propuesta originalmente por la Comisión Europea en abril de 2021. El Consejo Europeo adoptó una denominada posición de enfoque general sobre la legislación a fines de 2022 y la legislación se encuentra actualmente en discusión en el Parlamento Europeo.
“La inteligencia artificial es de suma importancia para nuestro futuro”, dijo Ivan Bartoš, viceprimer ministro checo de Digitalización, en un comunicado luego de la adopción del Consejo. «Logramos lograr un delicado equilibrio que impulsará la innovación y la adopción de la tecnología de inteligencia artificial en toda Europa».
Una vez que el Parlamento Europeo adopte su propia posición sobre la legislación, las negociaciones interinstitucionales de la UE, un proceso conocido como diálogos tripartitos , comenzarán a finalizar e implementar la ley. Los diálogos tripartitos pueden variar significativamente en el tiempo a medida que los legisladores negocian los puntos conflictivos y revisan las propuestas. Cuando se trata de leyes complejas como la Ley de Inteligencia Artificial, dicen los funcionarios de la UE, los diálogos tripartitos suelen ser procesos largos.
NUESTRO IMPACTO¿Qué está haciendo el Foro Económico Mundial para acelerar la acción sobre la Inteligencia Artificial?
Explore y supervise cómo la inteligencia artificial está afectando las economías, las industrias y los problemas globales
INNOVACIÓN DE COLABORACIÓN COLECTIVA
