Marianne Bellotti MEDIUM
El objetivo del Marco de IA del NIST (Laboratorio de Tecnología de la Información) es proporcionar un enfoque estructurado para evaluar y gestionar los riesgos involucrados con el desarrollo y la implementación de soluciones de IA. En general, el NIST tiene la idea correcta. En lugar de empezar desde cero, deberíamos aprovechar las lecciones aprendidas de la seguridad y la ingeniería de protección. Estos enfoques se basan en la investigación de usuarios, evaluaciones de riesgos y pruebas de fallas.
https://www.nist.gov/itl/ai-risk-management-framework
Sin embargo, nadie ha podido especificar los detalles de cómo deberían verse esas cosas para la IA. El gran problema del NIST es que las primeras conjeturas de los investigadores no se sostienen. La justicia algorítmica puede causar más daño a las comunidades marginadas . La transparencia y la explicabilidad no impiden que la gente haga un mal uso de la tecnología . Y si bien se comprende bien el alcance de la responsabilidad en materia de seguridad y protección, los profesionales de la IA también deben lidiar con la ansiedad generalizada de la sociedad en torno a los impactos a largo plazo de esta tecnología que amplían los límites del desafío hacia una mayor ambigüedad.
Desafíos de alcance y escala en el manual de estrategia de IA del NIST
El borrador del manual que ha publicado el NIST representa muchos de los problemas que enfrentan los reguladores. Debido a que hay poco consenso y aún menos datos sobre lo que funciona, el manual intenta dar cuenta de cada teoría, cada riesgo, cada posibilidad.
Las grandes organizaciones no tendrán problemas para producir el análisis en profundidad de los riesgos locales y globales complejos sugerido por el manual del NIST. Sin embargo, la industria tecnológica siempre ha estado impulsada por aficionados y aficionados. A diferencia de otros campos de la ingeniería, alentamos a quienes no tienen capacitación o calificaciones formales a que se involucren. Creamos herramientas específicamente para ayudarlos a hacerlo. Los equipos pequeños con pocos recursos pueden competir, y a menudo lo hacen, en pie de igualdad con organizaciones mucho más establecidas.
Esto se debe a que las organizaciones establecidas generalmente están ganando más dinero en la forma en que están las cosas como para interesarse seriamente en el cambio. Los grandes productores de mainframes tenían la tecnología para entrar en el mundo de la informática de escritorio como fuerza dominante y se quedaron fuera porque la nueva tecnología amenazaba los ingresos de la antigua. Las empresas que los reemplazaron se perdieron la computación móvil y en la nube exactamente por la misma razón. A medida que la IA siga madurando, las empresas que tendrán el mayor impacto en este espacio no serán las grandes corporaciones transnacionales que dominan la tecnología hoy en día, sino las organizaciones más pequeñas a las que les resultará imposible gestionar grandes y complejos marcos regulatorios. Por ejemplo, OpenAI tiene menos de 400 empleados en total.
Por cada equipo pequeño o mediano excepcional como OpenAI, habrá cientos que tomarán las herramientas, las usarán de manera inapropiada y fallarán. Esta es la audiencia a la que debe servir el marco de IA del NIST o cualquier regulación similar. Lo más probable es que la IA con la que la mayoría de la gente interactuará en el futuro se parezca a lo que los profesionales menos informados e inexpertos puedan producir. La regulación debe abordar qué estrategias son viables en esas condiciones.
¿Cómo puede el NIST mejorar su marco de IA?
Rebellion Defense estuvo encantada de tener la oportunidad de contribuir a la conversación a través de comentarios públicos (que puede leer aquí ). ¿Cómo puede el NIST mejorar la utilidad de su marco de IA? Creemos que la mejor manera de limitar productivamente el enfoque en las proyecciones de riesgo es centrándose en la seguridad.
Si bien hay muchos comentarios reflexivos sobre cómo la IA impacta el cambio climático, la justicia social y otras cuestiones complejas y de largo plazo, la IA suele ser solo un factor en un sistema dinámico que da forma a esos resultados. La relación entre tecnología e impacto en estos espacios no es determinista. Toda organización debe ser sensible a los impactos a largo plazo de sus productos, pero la regulación debe mantenerse dentro de los límites de lo que puede preverse razonablemente.
Al centrarse en un concepto que tiene un buen alcance y puede definirse adecuadamente, como la seguridad, se puede responsabilizar a organizaciones de diferentes tamaños según los mismos estándares. Los criterios ampliamente definidos brindan a las organizaciones la capacidad de elegir qué aspectos de las regulaciones se les aplican. Al incluir más preocupaciones en el Marco, el NIST hace que el Marco sea menos poderoso para garantizar resultados positivos.
También nos hacemos eco de los comentarios de otros de que el beneficio principal de la IA está en la asociación entre humanos y computadoras, no en el reemplazo o la inteligencia general. El Playbook del NIST se refiere con frecuencia a la investigación y el diseño de los usuarios, pero podría entrar en más detalles. Las técnicas y enfoques para diseñar estas asociaciones existen y el Manual debería resaltarlos. En particular, hemos estado experimentando con patrones de diseño creados por Spoto y Oleynik para redes generativas adversarias, pero la matriz 2D de control humano versus control de IA de Shneiderman también está ganando impulso entre los profesionales.
En general, el Marco del NIST establece una base sólida sobre cómo debería ser la regulación en este espacio. Esperamos ver cómo madura el pensamiento aquí y que las futuras iteraciones del Playbook agreguen más detalles a la conversación.
