Project Syndicate. 12 de junio de 2023. SIMÓN JOHNSON, DARON ACEMOGLU, y SYLVIA BARMACK
Los rápidos avances en la IA y las herramientas de vigilancia mejoradas por IA han creado una necesidad urgente de normas y coordinación internacionales para establecer estándares sensatos. Pero dado que es poco probable que los regímenes autoritarios opresores cooperen, las democracias del mundo deberían comenzar a prepararse para jugar duro económicamente.
CAMBRIDGE – Los escritores de ficción han imaginado durante mucho tiempo escenarios en los que cada acción humana es supervisada por alguna autoridad centralizada maligna. Pero ahora, a pesar de sus advertencias, nos encontramos a toda velocidad hacia un futuro distópico digno de 1984 de George Orwell . La tarea de evaluar cómo proteger nuestros derechos, como consumidores, trabajadores y ciudadanos, nunca ha sido más urgente.
Una propuesta sensata es limitar las patentes sobre tecnologías de vigilancia para desalentar su desarrollo y uso excesivo. En igualdad de condiciones, esto podría alejar el desarrollo de tecnologías relacionadas con la IA de las aplicaciones de vigilancia, al menos en los Estados Unidos y otras economías avanzadas, donde las protecciones de patentes son importantes, y donde los capitalistas de riesgo serán reacios a respaldar empresas que carecen de una sólida capacidad intelectual. derechos de propiedad. Pero incluso si se adoptan medidas tan sensatas, el mundo seguirá dividido entre países con garantías efectivas de vigilancia y países sin ellas. Por lo tanto, también debemos considerar la base legítima para el comercio entre estos bloques emergentes.
Las capacidades de la IA se han acelerado en los últimos 18 meses, y es poco probable que el ritmo de un mayor desarrollo disminuya. El lanzamiento público de ChatGPT en noviembre de 2022 fue el disparo generativo de IA que se escuchó en todo el mundo. Pero igual de importante ha sido el aumento igualmente rápido de las capacidades de vigilancia de los gobiernos y las corporaciones. Dado que la IA generativa sobresale en la coincidencia de patrones, ha hecho que el reconocimiento facial sea notablemente preciso (aunque no sin algunas fallas importantes). Y el mismo enfoque general se puede utilizar para distinguir entre el comportamiento «bueno» y el problemático, basándose simplemente en cómo se mueven o se comportan las personas.
Dicha vigilancia lleva técnicamente a una “mayor productividad”, en el sentido de que aumenta la capacidad de una autoridad para obligar a las personas a hacer lo que se supone que deben hacer. Para una empresa, esto significa realizar trabajos en lo que la gerencia considera que es el nivel de productividad más alto. Para un gobierno, significa hacer cumplir la ley o garantizar su cumplimiento por parte de quienes están en el poder.
Desafortunadamente, un milenio de experiencia ha establecido que una mayor productividad no conduce necesariamente a mejoras en la prosperidad compartida. La vigilancia impulsada por IA de hoy permite que los gerentes autoritarios y los líderes políticos autoritarios hagan cumplir sus reglas de manera más efectiva. Pero si bien la productividad puede aumentar, la mayoría de las personas no se beneficiarán.
Esto no es solo especulación. Las corporaciones ya están utilizando métodos de vigilancia mejorados por IA para monitorear cada movimiento de sus empleados. Amazon, por ejemplo, requiere que los repartidores descarguen una aplicación (Mentor) que califica su conducción, supuestamente en nombre de la seguridad. Algunos conductores informan que se les realiza un seguimiento incluso cuando no están trabajando.
En términos más generales, la consultora Gartner estima que la proporción de grandes empleadores que utilizan herramientas digitales para rastrear a sus trabajadores se ha duplicado desde el comienzo de la pandemia de COVID-19, al 60 %, y se espera que alcance el 70 % en los próximos tres años. Aunque la evidencia disponible sugiere que una mayor vigilancia se correlaciona con una menor satisfacción laboral, incluso muchos empleadores que están de acuerdo en que monitorear a sus empleados plantea «preocupaciones éticas» todavía lo hacen.
Es cierto que la tecnología de vigilancia no es inherentemente antihumana. Por el contrario, podría mejorar la seguridad (por ejemplo, mediante el control de tiradores activos) o la comodidad. Pero debemos encontrar el equilibrio adecuado entre estos beneficios y la privacidad, y debemos hacer todo lo posible para garantizar que las tecnologías de IA no estén sesgadas (por ejemplo, en función del color de la piel o el sexo ).
Abordar estos problemas requerirá nuevas normas y cooperación internacionales. Cualquier IA utilizada para rastrear o castigar a los trabajadores debe divulgarse, con total transparencia sobre cómo hace recomendaciones. Si lo despiden porque una IA consideró que su comportamiento era problemático, debería poder impugnar esa decisión. Sin embargo, debido a que muchas de las nuevas IA son «cajas negras» que incluso sus desarrolladores no entienden, limitan automáticamente el alcance del debido proceso.
Incluso en un país tan polarizado como Estados Unidos, es probable que la gente se una a favor de las restricciones a la vigilancia. Todos, de izquierda a derecha, comparten una preocupación básica sobre ser observados constantemente, incluso si sus temores específicos difieren. Lo mismo es cierto en todas las democracias del mundo.
Sin embargo, es poco probable que China coopere con los esfuerzos para frenar el uso sin restricciones de las herramientas de vigilancia. No solo ha aumentado sistemáticamente la vigilancia interna para reprimir la disidencia y monitorear el comportamiento social en un grado sin precedentes; también está exportando su tecnología de vigilancia a otros. La tecnología de la opresión se ha abaratado en todas partes y al mismo tiempo.
En este mundo bifurcado, un campo probablemente desarrollará estándares sólidos para regir cuándo y cómo se puede usar la vigilancia. El tema seguirá siendo controvertido, pero la tecnología estará sustancialmente bajo control democrático. En el otro bando, los líderes autocráticos utilizarán una amplia vigilancia para mantener a sus poblaciones bajo control. Habrá cámaras por todas partes, facilitando tanta represión como el régimen crea conveniente.
Una gran elección económica se avecina para las democracias del mundo. ¿Deberíamos seguir comprando productos de países donde los trabajadores están sujetos a tecnologías de vigilancia que no toleraríamos en casa? Hacerlo alentaría una mayor vigilancia y más represión por parte de regímenes que buscan cada vez más socavar nuestras propias democracias. Sería mucho mejor para la prosperidad compartida si abogáramos por menos tecnología de vigilancia, por ejemplo, estipulando que solo se permitirá la entrada a nuestros mercados de productos que cumplan plenamente con las salvaguardias de vigilancia.
En la década de 1990 y principios de la de 2000, EE. UU. y Europa otorgaron a China un acceso mucho mayor a sus mercados bajo el supuesto de que las exportaciones de países con salarios bajos beneficiarían a los consumidores nacionales y contribuirían a la democratización en la fuente. En cambio, China se ha vuelto aún más autoritaria y el crecimiento impulsado por las exportaciones ha reforzado su régimen.
Ya no deberíamos hacernos ilusiones sobre las consecuencias de permitir el acceso sin restricciones al mercado para los países que mantienen un control estricto sobre sus trabajadores. ¿Se utilizarán las tecnologías de IA para ayudar a los trabajadores o para robarles su dignidad? Nuestras políticas comerciales y de patentes no deben ser ciegas a tales preguntas.
