7 de noviembre de 2025. Mustafa Suleyman. Project Sindycate
Para que la IA cumpla sus promesas, debe diseñarse siguiendo la tradición humanista, manteniendo el control absoluto por parte de las personas y priorizando siempre la dignidad humana. Es fundamental evitar a toda costa los sistemas capaces de mejorar y adaptarse indefinidamente a sus propios fines.
REDMOND – Durante décadas, la prueba de Turing fue la guía principal de los investigadores de IA. Hoy, ha sido superada discretamente. Con el surgimiento de modelos de razonamiento y capacidades de agencia, y con el aumento del ritmo de desarrollo de la infraestructura de IA, hemos alcanzado un punto de inflexión en el camino hacia la superinteligencia: el punto en el que la IA supera el rendimiento humano en todas las tareas.
En efecto, la pregunta más trascendental de nuestra época no es si la IA nos superará, pues en algunos aspectos ya lo ha hecho (intenta vencer a una IA en conocimientos generales), en muchos otros lo hará, y en ciertos aspectos siempre seremos únicos. La verdadera pregunta, entonces, es si podemos moldear la IA para impulsar el desarrollo humano en lugar de socavarlo. Ese es el desafío más importante de nuestro tiempo.
Es cierto que a estas alturas todos están predispuestos a escépticos ante la exageración en torno a la IA. Lo entiendo. Pero lo que está en juego es crucial. La ciencia y la tecnología siempre han sido el principal motor del progreso de la humanidad. En los últimos 250 años, este motor ha duplicado la esperanza de vida , ha sacado a miles de millones de personas de la pobreza y nos ha brindado antibióticos, electricidad y comunicación global instantánea. La IA es el siguiente capítulo de esta historia. Representa nuestra mejor oportunidad para acelerar el descubrimiento científico, el crecimiento económico y el bienestar humano. Siempre que oigas hablar de IA, vale la pena tener presente este potencial.
Pero aprovechar el potencial de la IA solo funcionará correctamente si la desarrollamos adecuadamente. Las consecuencias de equivocarse son enormes. Nadie tiene aún respuestas definitivas sobre cómo contener o armonizar estos sistemas. Nos encontramos en un momento crucial, ante las tecnologías más poderosas de la historia, sin saber cómo controlarlas ni si seguirán siendo beneficiosas.Suscríbase a nuestro boletín semanal, PS PoliticsVaya más allá de los titulares para comprender los problemas, las fuerzas y las tendencias que dan forma a las elecciones presidenciales de Estados Unidos, y las probables implicaciones de su resultado.Al registrarte, aceptas nuestra política de privacidad y nuestros términos de servicio.
Creo que podemos ir al grano y entenderlo así: la IA, como toda tecnología, se puede evaluar mediante una prueba sencilla. ¿Mejora la vida humana? ¿Trabaja claramente al servicio de las personas?
Al adentrarnos en la siguiente fase de la IA, la respuesta a estas preguntas reside en lo que denomino Superinteligencia Humanista (SHH): una IA avanzada diseñada para mantenerse controlable, alineada y firmemente al servicio de la humanidad. Este proyecto busca evitar, a toda costa, una entidad sin límites con autonomía total.
En cambio, debemos centrarnos en la superinteligencia específica para cada dominio. En lugar de simplemente crear un sistema que pueda mejorar sin cesar y descontrolarse para cualquier propósito que finalmente alcance, el objetivo principal es brindar beneficios prácticos y reales a miles de millones de personas. Debe permanecer siempre inequívocamente subordinada a la humanidad. Esta es la visión de nuestro Equipo de Superinteligencia en Microsoft, cuya misión principal es mantener a la humanidad segura y firmemente en control.
¿Por qué el humanismo? Porque la historia ha demostrado el poder perdurable de la tradición humanista para preservar la dignidad humana. La IA construida con ese espíritu puede generar beneficios extraordinarios y, al mismo tiempo, evitar riesgos catastróficos. Necesitamos una visión de la IA que apoye a la humanidad, potencie la creatividad y proteja nuestro frágil medio ambiente, no una que nos margine.
El premio para la humanidad es enorme: un mundo de rápidos avances en la calidad de vida y la ciencia, y una época de nuevas formas de arte, cultura y crecimiento. Es una misión verdaderamente inspiradora que me ha motivado durante décadas. Debemos celebrar e impulsar la tecnología como el mayor motor de progreso que la humanidad jamás haya conocido. Por eso necesitamos mucha, muchísima más.
HSI ofrece un camino más seguro hacia el futuro. Un ejemplo de ello es mantenernos firmes en avances específicos del sector con un profundo impacto social. Imaginemos compañeros de IA que alivien la carga mental de la vida diaria, mejoren la productividad y transformen la educación mediante el aprendizaje adaptativo e individualizado. Imaginemos una superinteligencia médica que proporcione diagnósticos precisos, asequibles y de nivel experto, capaces de revolucionar la atención médica global; capacidades que nuestro equipo de salud en Microsoft AI ya ha explorado . Consideremos también el potencial de los avances impulsados por la IA en energías limpias que permitirán una generación, almacenamiento y captura de carbono abundantes y de bajo costo para satisfacer la creciente demanda y, al mismo tiempo, proteger el planeta.
Con HSI, estos no son sueños especulativos. Son objetivos alcanzables que pueden beneficiar a personas de todo el mundo, proporcionando mejoras concretas en la vida cotidiana.
Como es obvio, los seres humanos importan más que la tecnología o la IA. La superinteligencia podría ser el mejor invento de la historia, pero solo si se rige por este principio. Esto implica garantizar la rendición de cuentas y la transparencia, y priorizar la seguridad. Nuestro objetivo no es construir una superinteligencia a cualquier precio, sino seguir un camino prudente hacia una que sea controlada, basada en valores y siempre centrada en el bienestar humano.
Todos debemos preguntarnos: ¿Qué tipo de IA queremos realmente? La respuesta determinará el futuro de la civilización. Para mí, la respuesta es la Superinteligencia Humanista.
Presentado
- Los agentes de IA amenazan las sociedades libres6 de noviembre de 2025 Christina Lioma
- Qué significa la IA para el crecimiento y el empleo28 de octubre de 2025 Philippe Aghion
- La IA está vaciando la educación superior17 de octubre de 2025, Olivia Guest
- La IA pública es el nuevo multilateralismo20 de octubre de 2025 Jacob Taylor
- Aprovechar la IA al tiempo que se apoya la democracia16 de octubre de 2025: Nace Kelly
Mustafa Suleyman
Escribiendo para PS desde 2025
2 Comentarios
Mustafa Suleyman es el director ejecutivo de Microsoft AI y autor de The Coming Wave: Technology, Power, and the Twenty-First Century’s Greatest Dilemma (Crown, 2023). Anteriormente fue cofundador de Inflection AI y DeepMind.
