VECTOR INSTITUTE, JUNIO DE 2023
IA confiable
Desde el inicio del Vector Institute, su comunidad ha compartido un fuerte compromiso con el desarrollo de una IA que sea segura y confiable. Es el núcleo de nuestra existencia. Ahora, modelos de IA generativa potentes y de fácil acceso han revelado al público en general los riesgos existenciales y a corto plazo de la IA. A medida que se acelera el ritmo del desarrollo de la IA, los formuladores de políticas y los expertos en IA de todo el mundo buscan desarrollar barreras de seguridad compartidas para ayudar a guiar el desarrollo futuro de esta tecnología.
Como centro central del ecosistema de IA de Canadá, Vector ha destilado seis principios de confianza y seguridad de la IA para organizaciones canadienses e internacionales que reflejan el diálogo continuo, los valores compartidos y las mejores prácticas de las empresas, los gobiernos y las comunidades de investigación de renombre mundial con las que trabajamos. trabajar.
Seguir estos principios desde la investigación hasta la implementación y/o comercialización ayudará a garantizar que los sistemas de IA sean seguros y confiables. Vector actualizará su propio Código de conducta para garantizar que estos principios sigan dando forma al trabajo del instituto.
Vector cree que estos principios de confianza y seguridad pueden proporcionar orientación para que otras organizaciones desarrollen su propio código de conducta y políticas de IA. Son un punto de partida para las organizaciones al comienzo de su viaje hacia la IA, mientras que las organizaciones más establecidas pueden aprovecharlas para satisfacer mejor sus necesidades.
Al adoptar estos principios, las organizaciones que desarrollan sus propias políticas de IA en todo el mundo señalarán su compromiso de aprovechar el poder de la IA como medio para lograr fines democráticos.
Un fuerte compromiso con estos principios en todo el ecosistema de IA de Canadá ampliaría el liderazgo global del país en el desarrollo y despliegue responsable de la IA.
Primeros principios para la IA
La capacidad única del Vector Institute para convocar a partes interesadas de todos los dominios, instituciones y sectores industriales de la IA le brinda al instituto una perspectiva novedosa sobre las tendencias y los desafíos de la implementación de la IA.
Estos principios se basan en temas internacionales recopilados de múltiples sectores para reflejar los valores de los profesionales de la IA en el ecosistema de Vector, en todo Canadá y en todo el mundo:
1. La IA debería beneficiar a los humanos y al planeta.
Estamos comprometidos a desarrollar una IA que impulse el crecimiento inclusivo, el desarrollo sostenible y el bienestar de la sociedad. El desarrollo y despliegue responsable de sistemas de IA debe considerar el acceso equitativo a ellos junto con su impacto en la fuerza laboral, la educación, la competencia en el mercado, el medio ambiente y otras esferas de la sociedad. Este compromiso implica una negativa explícita a desarrollar IA dañina, como sistemas de armas letales autónomas y métodos manipulativos para impulsar el compromiso, incluida la coerción política.
2. Los sistemas de IA deben diseñarse para reflejar los valores democráticos.
Estamos comprometidos a crear salvaguardias adecuadas en los sistemas de IA para garantizar que respeten los derechos humanos, el estado de derecho, la equidad, la diversidad y la inclusión, y contribuyan a una sociedad justa y equitativa. Los sistemas de IA deben cumplir con las leyes y regulaciones y alinearse con los requisitos multijurisdiccionales que respaldan la interoperabilidad internacional de los sistemas de IA.
3. Los sistemas de IA deben reflejar los intereses de privacidad y seguridad de las personas.
Reconocemos la importancia fundamental de la privacidad y la seguridad, y estamos comprometidos a garantizar que los sistemas de IA reflejen estos valores de manera adecuada para los usos previstos.
4. Los sistemas de IA deben seguir siendo sólidos y seguros durante todo su ciclo de vida.
Reconocemos que mantener sistemas de IA seguros y confiables requiere una evaluación y gestión continua de sus riesgos. Esto significa implementar responsabilidad en toda la cadena de valor durante todo el ciclo de vida de un sistema de IA.
5. La supervisión del sistema de IA debe incluir una divulgación responsable.
Reconocemos que los ciudadanos y consumidores deben poder comprender los resultados basados en la IA y desafiarlos. Esto requiere transparencia responsable y divulgación de información sobre los sistemas de IA (y apoyo a la alfabetización en IA) para todas las partes interesadas.
6. Las organizaciones deberían rendir cuentas.
Reconocemos que las organizaciones deben ser responsables durante todos los ciclos de vida de los sistemas de IA que implementan u operan de acuerdo con estos principios, y que la legislación gubernamental y los marcos regulatorios son necesarios.
Metodología
Los Primeros Principios para la IA del Vector Institute se basan en el enfoque de la IA ética desarrollado por la OCDE. Además de los principios de confianza y seguridad, también se necesitan definiciones claras para el despliegue responsable de los sistemas de IA. Como punto de partida, el Vector Institute reconoce la definición de sistema de IA de la Organización para la Cooperación y el Desarrollo Económicos (OCDE) . A mayo de 2023, la OCDE define un sistema de IA de la siguiente manera:
“Un sistema de IA es un sistema basado en una máquina que es capaz de influir en el entorno produciendo un resultado (predicciones, recomendaciones o decisiones) para un conjunto determinado de objetivos. Utiliza datos e entradas de máquinas y/o humanos para (i) percibir entornos reales y/o virtuales; (ii) abstraer estas percepciones en modelos mediante análisis de forma automatizada (por ejemplo, con aprendizaje automático) o manualmente; y (iii) utilizar la inferencia de modelos para formular opciones de resultados. Los sistemas de IA están diseñados para funcionar con distintos niveles de autonomía”.
Vector también reconoce que las definiciones ampliamente aceptadas de sistemas de IA pueden revisarse con el tiempo. Hemos visto cómo el rápido desarrollo de modelos de IA puede cambiar tanto el conocimiento de los expertos como la opinión pública sobre los riesgos de la IA. A través del proyecto Gestión del riesgo de IA de Vector, colaboramos con muchas organizaciones y reguladores para evaluar varios tipos de riesgos de IA. Estas discusiones informaron el lenguaje sobre los riesgos y el impacto en los principios.
La naturaleza dinámica de este desafío requiere que las empresas y organizaciones estén preparadas para revisar sus principios a medida que responden a la naturaleza cambiante de la tecnología de IA.
- Según un documento técnico del Centro Berkman Klein para Internet y Sociedad de Harvard, la declaración de principios de IA de la OCDE se encuentra entre los enfoques más equilibrados para articular principios éticos y basados en derechos para la IA.
- A medida que se desarrolla la tecnología de IA, las definiciones se actualizan según sea necesario. En mayo de 2023, la OCDE estaba revisando su definición de sistemas de IA.
