La Inteligencia Artificial, a pesar de sus beneficios, presenta a los diseñadores desafíos sin precedentes que exigen nuestra acción.

Bettina D’ávila. Publicado en Colectivo UX. 11 de febrero de 2025

La responsabilidad que tenemos los diseñadores de proteger los intereses y el valor de los usuarios nunca ha sido tan importante. No solo vivimos en una era de moda con el auge de ChatGPT y muchas otras herramientas de IA, sino que también estamos experimentando cómo estos sistemas le quitan el control al usuario. Ya sea automatizando tareas, descubriendo patrones ocultos, mejorando las experiencias de los usuarios, generando nuevos contenidos u optimizando decisiones, la existencia de la IA está impulsada por su capacidad de aprender de los datos y mejorar con el tiempo sin una programación explícita. Actualmente, la velocidad y la forma en que se están implementando estas tecnologías superpoderosas no nos permiten seguirlas como sociedad, lo que provoca un gran impacto en la economía, la salud mental, la cultura y la sociedad en su conjunto.

“Nosotros, los diseñadores, tenemos que asumir nuestro papel en este mundo predictivo emergente porque tenemos nuestra mano invisible interfiriendo con los controles” — Helen Armstrong

Esta cita es del maravilloso libro “Big Data, Big Design: Why Designers Should Care About Artificial Intelligence” (Grandes datos, gran diseño: por qué los diseñadores deberían preocuparse por la inteligencia artificial), escrito por Helen Armstrong, que explora la intersección entre el diseño y la inteligencia artificial, haciendo hincapié en el papel de los diseñadores en la configuración de experiencias impulsadas por la IA. En un mundo digital predictivo, desempeñamos un papel crucial a la hora de garantizar que las soluciones de IA sean éticas, transparentes y estén alineadas con los valores humanos. Debemos tener en cuenta los posibles sesgos en los datos, el impacto en la privacidad del usuario y las implicaciones sociales de nuestras creaciones. Al priorizar la responsabilidad y la rendición de cuentas, los diseñadores pueden ayudar a construir un futuro en el que las tecnologías de IA mejoren las capacidades humanas y la calidad de vida.

El libro explora estas cuestiones en profundidad y cuenta con las contribuciones de varios diseñadores, educadores e investigadores que trabajan en la intersección de la inteligencia artificial y el diseño. Sirve como mi principal referencia para las preguntas y los debates planteados en este artículo, pero he recurrido a muchas otras fuentes para ofrecer una perspectiva integral, todas las cuales se enumeran al final de este artículo.

El tema central del libro —y de este artículo— es enfatizar la responsabilidad de los diseñadores en el desarrollo ético de productos y servicios de IA. Nuestra disciplina está fundamentalmente centrada en el ser humano, y se centra en comprender y abordar las necesidades y los deseos humanos dentro del contexto social más amplio. La psicología, la investigación y la estrategia que empleamos al diseñar nuestros productos tienen un profundo impacto en el bienestar físico, mental y emocional de las personas en todo el mundo.

¿La IA está centrada en el ser humano…?

El diseño centrado en el ser humano, al igual que los enfoques inclusivos y participativos, garantiza la equidad en los modelos de datos, mitiga los sesgos y promueve la inclusión. Es ampliamente reconocido que el diseño centrado en el ser humano ha sido el principio rector de todos los marcos y procesos de diseño durante la última década, y esto no debería ser diferente cuando se trabaja con IA. Estas perspectivas han sido valiosas porque informan a los tomadores de decisiones sobre los posibles impactos humanos y ayudan a anticipar consecuencias no deseadas. Iniciativas como el Instituto de IA Centrada en el Ser Humano de la Universidad de Stanford y la inversión sustancial del MIT en educación en IA, ejemplifican el esfuerzo global para priorizar un enfoque centrado en el ser humano. Según este artículo de Sarah Tan, al explorar el impacto humano de la IA a través de varios enfoques de Diseño Centrado en el Ser Humano (HCD), el diseño alinea los valores entre los humanos y las máquinas, integrando la ética en el núcleo del proyecto.

Al defender las necesidades de los usuarios, la investigación de diseño tiene el poder de examinar las implicaciones de la IA en contextos del mundo real, abordando también la dinámica socioeconómica. Sin embargo, esto no es fácil. Nosotros, como diseñadores que trabajamos en la industria, a menudo nos sentimos presionados a adoptar rápidamente las últimas tendencias sin tiempo para la reflexión. Con frecuencia se nos exige que utilicemos la investigación del comportamiento para influir en las elecciones de los usuarios, a veces a expensas de su bienestar. Además, debemos operar en entornos de ritmo rápido, adoptando la mentalidad de «moverse rápido y romper cosas» popularizada por la cultura inicial de Facebook. Este enfoque puede dificultarnos el diseño reflexivo y ético.

Pero ¿cómo defender a la gente frente a tales fuerzas?

Capacidades de IA que todos los diseñadores deberían conocer

Esto es lo que pretendo lograr con este artículo: inspirar a los diseñadores para que se involucren más en la creación de sistemas de IA, de modo que podamos hacer que el proceso sea más ético y centrado en el ser humano. Esto significa utilizar el pensamiento de diseño como guía para reducir los impactos negativos de la IA en la sociedad mediante el desarrollo de sistemas y pautas de IA centrados en el ser humano.

Todavía se está descubriendo cómo podemos lograrlo, y todos somos parte de este proceso. Para ayudar, quiero destacar las principales capacidades que se mencionan en el libro de Armstrong, en las que los diseñadores debemos participar activamente. Necesitamos defender decisiones de diseño que satisfagan las necesidades de los usuarios y respeten el contexto socioeconómico de una manera ética. No será fácil, pero podemos comenzar a allanar el camino con estos elementos.

1. Diseño para potenciar las predicciones

La predicción es una capacidad central del aprendizaje automático (un subconjunto de la IA que implica entrenar algoritmos con datos para hacer predicciones o tomar decisiones sin estar programados explícitamente). En el contexto del modelado predictivo, el objetivo del aprendizaje automático es pronosticar eventos o resultados futuros y anticipar comportamientos en función de patrones encontrados en datos históricos.

Por ejemplo, podemos pensar en la función de Gmail que completa automáticamente las oraciones en función de tu comportamiento anterior. Con el tiempo, el sistema aprende tan bien el estilo de una persona que puede completar oraciones e incluso sugerir tonos o sentimientos apropiados.

O podemos pensar en las numerosas aplicaciones en diversas industrias, como la previsión de precios de acciones, la optimización de inventarios y de la cadena de suministro, las predicciones de atención médica (como la previsión de brotes de enfermedades), las campañas de marketing específicas y otras experiencias de usuario personalizadas.

Si bien estas predicciones impulsadas por la IA no siempre son 100 % precisas, ofrecen beneficios significativos para las empresas. La ventaja es que, al anticipar las demandas, tendencias y necesidades futuras, las empresas pueden prepararse mejor para las oportunidades y obtener una ventaja competitiva. Para ello, los diseñadores deben planificar un panorama experiencial cambiante cuando trabajan con tecnología inteligente en sus proyectos.

Por otra parte, los diseñadores no pueden aplicar la tecnología de IA a ciegas sin correr el riesgo de someter a los seres humanos a discriminación, vigilancia y/o manipulación, no solo de manera individual sino a gran escala. Los modelos predictivos a veces pueden reforzar sesgos existentes o generar consecuencias no deseadas.

Los diseñadores tienen la responsabilidad de prever estos posibles problemas y tomar medidas para mitigarlos, garantizando que sus diseños sean éticos e inclusivos. Como dice Kate Crawford, fundadora del AI Now Institute :

Comprender la política dentro de los sistemas de IA es más importante que nunca, ya que se están trasladando rápidamente a la arquitectura de las instituciones sociales: decidir a quién entrevistar para un trabajo, qué estudiantes prestan atención en clase, qué sospechosos arrestar y mucho más.

2. Diseñar para anticipar escenarios futuros

En su libro, Helen Armstrong explora el concepto de anticipación y muestra cómo los diseñadores pueden usar la IA para predecir y satisfacer las necesidades de los usuarios de manera proactiva. Esto implica aprovechar la información basada en datos para ir un paso por delante de los usuarios, reducir la fricción y mejorar la experiencia general del usuario.

Una ventaja del diseño anticipatorio es que reduce la fatiga de toma de decisiones al minimizar la carga cognitiva de los usuarios a través de sistemas predictivos. Estos sistemas ofrecen opciones relevantes o toman medidas en nombre de los usuarios. Por ejemplo, empresas como Netflix y Amazon utilizan el análisis predictivo para recomendar productos o contenidos. Sin embargo, existen implicaciones éticas, ya que estos sistemas pueden vulnerar la autonomía o la privacidad del usuario. Como bien afirma Armstrong en la página 210:

La promesa del diseño anticipatorio reside en su potencial para crear experiencias que resulten intuitivas y personalizadas. Sin embargo, este poder conlleva el deber de ejercerlo de manera responsable, garantizando que el elemento humano siga siendo el centro de cada decisión de diseño.

Afortunadamente, existe un enfoque con visión de futuro que nos permite crear productos y servicios que sean resistentes al cambio y puedan evolucionar con las expectativas de los usuarios. Los diseñadores pueden usar la IA para simular y modelar posibles escenarios futuros, anticipándose a las distintas necesidades de los usuarios, los factores ambientales y los cambios sociales. Esto garantiza que nuestros diseños sigan siendo relevantes y adaptables.

3. Diseñar para crear experiencias personales

La personalización en el diseño de la experiencia del usuario implica adaptar las interfaces, el contenido y las interacciones para satisfacer las necesidades, preferencias y contextos específicos de cada usuario. Cuando hablamos de personalización en el contexto de la IA, a menudo significa aprovechar las tecnologías predictivas y el análisis de datos para ofrecer experiencias que sean más relevantes y valiosas para los usuarios en cualquier momento. La personalización garantiza que la información o las acciones presentadas al usuario sean útiles, utilizables y deseables, inspiradas en la cita popular de la investigadora de diseño Liz Sanders.

La IA puede mejorar la personalización mediante el análisis de grandes cantidades de datos de los usuarios para identificar patrones y preferencias, utilizando modelos predictivos para anticipar lo que un usuario podría necesitar o desear a continuación; esto puede implicar tener en cuenta el contexto actual del usuario, como la ubicación o la hora del día, para proporcionar sugerencias más relevantes. Sin embargo, la personalización también plantea cuestiones éticas, como la privacidad, los sesgos y la transparencia. Por eso, nosotros, los diseñadores, desempeñamos un papel crucial a la hora de garantizar que la personalización se implemente de forma eficaz y ética. Debemos comprender las necesidades y preferencias de los usuarios mediante la investigación y las pruebas, y recopilar continuamente comentarios para perfeccionar las funciones de personalización.

Seeing AI: esta aplicación de Microsoft basada en inteligencia artificial narra lo que “ve” en el mundo físico para ayudar a las personas con discapacidad visual. Este video me hizo sonreír.

Podemos decir que la personalización es una herramienta poderosa en el conjunto de herramientas de un diseñador, pero como enfatiza Armstrong, el éxito de las experiencias personalizadas depende de la aplicación reflexiva y ética de los conocimientos de la IA. Es fundamental priorizar siempre los mejores intereses del usuario, asegurando que los esfuerzos de personalización no solo sean efectivos sino también respetuosos y beneficiosos para el individuo.

4. Utilizar la IA como material de diseño

Diseñar para la IA es un desafío porque la tecnología es invisible y abstracta. Como diseñadores, si no podemos «esbozar» una solución, sentimos que perdemos una habilidad crucial. Como dice el profesor de diseño de interacción Philip Van Allen, «es como si nos cortaran un brazo». Para abordar esto, creó un entorno de programación sin código para sus estudiantes, que proporciona un acceso fácil al aprendizaje automático. La herramienta se llama Delft AI Toolkit y simula un sistema de IA en 3D, lo que permite a los diseñadores observar y manipular el comportamiento del sistema y las fuentes de datos en un espacio virtual antes de invertir tiempo y experiencia en el entrenamiento del modelo y la construcción de un robot físico.

Kit de herramientas de inteligencia artificial de Delft, de Phillip Van Allen

Otro enfoque para trabajar con IA como material de diseño proviene de John Zimmerman, profesor de la Universidad Carnegie Mellon. Desarrolló un método que se centra en las capacidades del sistema de IA en lugar de en la tecnología subyacente. Zimmerman observa que muchos de sus estudiantes de diseño no están seguros de lo que es posible al trabajar con tecnologías de IA, por lo que utiliza un sistema de «emparejamiento» que los ayuda a comprender el potencial del sistema de IA. Por ejemplo, presenta un clasificador de texto de dos clases y pregunta: «¿Qué podría hacer con esto y para quién?». Este método ayuda a los diseñadores a identificar las capacidades existentes y aplicarlas de formas innovadoras. Como ocurre con cualquier herramienta de diseño, cuanto más experimentamos con ella, más cómodos nos sentimos y más ejemplos y abstracciones de capacidades de IA generamos.

Un tercer enfoque, que me parece especialmente eficaz, es el uso de la metodología OOUX (Object-Oriented UX) . OOUX se centra en los «objetos» antes que en las «acciones», alineándose con la forma en que los usuarios perciben el mundo real. Toma prestados conceptos de la programación orientada a objetos, pero los aplica al diseño de la experiencia del usuario. Este enfoque funciona bien con los flujos de trabajo de IA al organizar los datos y las interacciones en torno a los objetos, lo que hace que los sistemas de IA complejos sean más intuitivos para los no desarrolladores al coincidir con sus modelos mentales. Sophia Prater es una experta líder en el campo de OOUX y recomiendo encarecidamente sus materiales y podcasts sobre el tema.

En lo personal, recientemente completé mi primer proyecto utilizando este enfoque para un producto de IA nativo. La metodología fue increíblemente útil. Me permitió visualizar la funcionalidad y las limitaciones del sistema con mayor claridad, lo que también ayudó a los ingenieros. Además, hizo que mi proceso de diseño fuera más tangible a través del mapeo de objetos y flujos de usuarios, lo que mejoró la calidad y la precisión de mis soluciones propuestas.

El aprendizaje automático es la nueva experiencia de usuario. Imagino que los profesionales de la experiencia de usuario aprovecharán el aprendizaje automático como material de diseño de manera creativa y reflexiva, guiando a los usuarios y tecnólogos hacia un futuro deliberativo mediado por el aprendizaje automático — Qian Yang, Universidad de Cornell

5. Diseño para reducir el impacto climático de la IA

Si bien esto no se menciona en el libro y no es una «capacidad de IA», ciertamente es una de las habilidades clave que los diseñadores deben poseer, especialmente en el siglo XXI con el auge de las tecnologías de IA.

Hay un artículo titulado “ Cómo diseñar empresas de IA que respeten el clima ” de Santhi Analytis que enfatiza el importante papel que desempeñan los diseñadores en la mitigación del impacto ambiental de las tecnologías de IA. Enmarca el desafío de la creciente huella de carbono de la IA (alimentada por procesos que consumen mucha energía, como el entrenamiento de modelos y las operaciones de centros de datos) como algo que requiere atención urgente tanto de ingenieros como de diseñadores. Los diseñadores pueden contribuir creando elementos de interfaz de usuario y experiencia de usuario energéticamente eficientes, minimizando las cargas innecesarias de datos y medios y aplicando principios de software ecológico. Además, los diseñadores pueden impulsar usos socialmente equitativos de la IA desarrollando experiencias de usuario inclusivas y conscientes del clima.

El año pasado, The Intercept Brasil (en portugués) también publicó un artículo en el que se afirma que las grandes empresas tecnológicas como Microsoft, Google y Amazon están recurriendo a la energía nuclear como solución para responder a las crecientes demandas energéticas de la inteligencia artificial y los centros de datos. Microsoft planea reabrir la planta de Three Mile Island, Google se ha asociado con Kairos Power para construir pequeños reactores y Amazon ha invertido 500 millones de dólares en tecnología nuclear. Muchos de estos centros de datos se están construyendo en países del Sur Global, donde los costos laborales y de infraestructura son más bajos, lo que genera inquietudes sobre la explotación de los recursos. Si bien la energía nuclear no emite carbono y es eficiente, es costosa y conlleva riesgos, y los críticos sostienen que las “grandes tecnológicas” están abordando una crisis que ellas mismas crearon, priorizando la rápida expansión tecnológica por sobre la sostenibilidad.

La mentalidad de “avanzar rápido” de la industria plantea dudas sobre si la energía nuclear realmente puede seguir el ritmo del consumo de energía cada vez más acelerado de la IA, o si simplemente se convertirá en otro capítulo en la historia de crecimiento desenfrenado de las grandes tecnológicas. Este documental de Vox intenta responder a esta pregunta:

https://cdn.embedly.com/widgets/media.html?src=https%3A%2F%2Fwww.youtube.com%2Fembed%2FYGfJeH5HRDQ%3Ffeature%3Doembed&display_name=YouTube&url=https%3A%2F%2Fwww.youtube.com%2Fwatch%3Fv%3DYGfJeH5HRDQ&image=https%3A%2F%2Fi.ytimg.com%2Fvi%2FYGfJeH5HRDQ%2Fhqdefault.jpg&key=a19fcc184b9711e1b4764040d3dc5c07&type=text%2Fhtml&schema=youtube

En este otro artículo del MIT , el autor Andrew Winston también destaca el creciente impacto ambiental de la IA y ofrece recomendaciones para reducir su huella de carbono, como utilizar modelos existentes en lugar de crear otros nuevos. Destaca el papel de los diseñadores en esta cuestión, instándolos a desarrollar conocimientos especializados en IA para simplificar conceptos complejos, comunicar el “nutriscore” de la IA en sus productos (su uso y coste ambiental) y adherirse a un “código de conducta” ético similar a la Ley de IA de la UE, garantizando que los productos de IA sean seguros, transparentes, rastreables, no discriminatorios y ambientalmente responsables.

Como diseñadores, podemos influir en el comportamiento de los usuarios y las políticas de la empresa incorporando modelos de datos transparentes que reflejen los costos reales de la IA, garantizando así que la tecnología no solo resuelva los problemas humanos sino que también ayude a abordar los desafíos ambientales.

Conclusión: ¡Actuemos!

Es fácil sentirse abrumado por la urgente necesidad de una ética en la IA. La IA es un campo versátil y dinámico, capaz de realizar una amplia gama de tareas que pueden ayudar a resolver problemas del mundo real. Sin embargo, los sistemas algorítmicos a menudo reflejan y amplifican los sesgos sociales existentes. Hasta que las interfaces comuniquen claramente la lógica detrás de estas decisiones algorítmicas, los usuarios no podrán exigirles responsabilidades a estos sistemas. Por eso, los diseñadores y las comunidades a las que sirven deben comprender los derechos digitales. Debemos responsabilizarnos a nosotros mismos y a la industria de las decisiones que tomamos a través de nuestros diseños.

La pregunta clave es: ¿permitiremos que el aprendizaje automático se aproveche de aquellos que ya son víctimas de la sociedad, o utilizaremos esta tecnología como un mecanismo de equidad y justicia?

Estas son algunas acciones que podemos empezar a tomar como diseñadores en esta industria:

• ✅ Diseño con anticipación para prepararnos para múltiples futuros posibles, haciendo que nuestros diseños sean más flexibles y a prueba de futuro.
• ✅ Pensar críticamente sobre los impactos a largo plazo de nuestros diseños y las decisiones basadas en datos que los sustentan.
• ✅ Articular los derechos digitales y guiar a los usuarios con transparencia hacia las opciones a través de interacciones de diseño
• ✅ Divida los acuerdos de privacidad complejos en interacciones rápidas, comprensibles y oportunas
• ✅ Prototipos de conceptos orientados al futuro, como agentes de privacidad personal
• ✅ Apoyar a las organizaciones de derechos digitales colectivos y a las iniciativas de conjuntos de datos impulsadas por la comunidad
• ✅ Haga preguntas tempranas sobre ética y prejuicios para garantizar que la tecnología se adapte a las necesidades humanas, no al revés.

¿Cómo abordas la creación de productos de IA? ¿Qué ejemplos conoces de soluciones de diseño éticas e inclusivas?

Referencias

• “ Big Data, Big Design: Por qué los diseñadores deberían preocuparse por la inteligencia artificial” — Helen Armstrong (libro)
• “El diseño y la cuestión de la historia ” — Tony Fry, Clive Dilnot, Susan Stewart (Libro)
• “Diseño centrado en el ser humano para IA” : seminario weba cargo de Niwal Sheikh (director de diseño de productos, Netflix) por IxDF
• “Cómo diseñar empresas de inteligencia artificial que se adapten al cambio climático” : artículo de Santhi Analytis
• “El problema con el desarrollo de la IA hoy en día: los diseñadores deben dar un paso adelante” — Artículo de Sarah Tan
• “¿La IA ayudará o perjudicará la sostenibilidad? Sí” , artículo de Andrew Winston
• “¿Qué es la IA predictiva?” — Artículo de Cloudflare
• “ Revisión de los términos y condiciones de las herramientas de inteligencia artificial generativa más populares ” — Artículo de David Serrault
• “El problema con el desarrollo de la IA: los diseñadores deben dar un paso adelante” — Artículo de Sarah Tan
• “Diseño para IA (inteligencia artificial)” : artículo de Sudarshan Sahu
• “El diseño contra la IA” : sitio web de John Maeda
• “The Intercept: ‘Las grandes tecnológicas apelan a la energía nuclear’” — Artículo del Portal InvestNE que menciona el artículo original de The Intercept Brasil
• “OOUX” — Sitio web de Sophia Prater
• Sitio web del Instituto AI Now