La superinteligencia y la nube de humo

 

Si “muévete rápido y rompe cosas”
era el eslogan no oficial
de la era de las redes sociales, ¿cuál es el eslogan no oficial
de la era de la inteligencia artificial generativa?
Podemos estar casi seguros de que debe de ser el mismo,
aunque esta vez las cosas que se rompan
pueden ser muchísimo peores.
Gary Marcus, Frenar a Silicon Valley, 2024

“Pedimos que se prohíba el desarrollo de la superinteligencia, prohibición que no debe levantarse hasta que haya un amplio consenso científico en que se realizará de forma segura y controlada, y con fuerte respaldo público”. Así, muy breve, fue la segunda declaración de alerta frente al desarrollo de lo que podría ser la más avanzada inteligencia artificial imaginable, publicada por la organización Future of Life Institute el 22 de octubre de 2025, apenas dos años y medio después de aquella primera carta abierta que pedía suspender “por al menos seis meses” la investigación sobre modelos iguales o superiores a ChatGPT-4.

Más allá de sus intenciones explícitas y su menos evidente cometido implícito, aquel pedido de tregua publicado el 22 de marzo de 2023 había contribuido a identificar el lanzamiento público de las IA lingüísticas y generativas como un acontecimiento tecnopolítico de gran escala, con el consiguiente “furor normativo” que todavía hoy envuelve a Estados y sociedades en el debate acerca de si es posible, y de qué modo, comprender e idealmente conducir el despliegue de estas metatecnologías.

El pronunciamiento de 2025, por su parte, vino acompañado de un párrafo muy conciso donde se afirmaba que, si bien estas nuevas IA “podrían traernos una salud y prosperidad sin precedentes”, el intento por parte de un puñado de empresas por desarrollar en pocos años una superinteligencia capaz de superar a los humanos “en prácticamente todas las tareas cognitivas” genera inquietudes que van “desde la obsolescencia económica y el desempoderamiento de los seres humanos, con la consiguiente pérdida de libertades, derechos civiles y control de sus vidas, hasta riesgos para la seguridad de los Estados nación e incluso la posible extinción de la humanidad”. Firmaban el texto un conjunto de expertos encabezados por Geoffrey Hinton —premio Turing y Nobel de Física—, el también premio Turing Yoshua Bengio, Stuart Russell, Steve Wozniak, Steve Bannon, Yuval Harari y muchos más (no estaba Elon Musk esta vez, pero sí los duques de Sussex, el príncipe Harry y Meghan, quienes aparecían mencionados así, solo con sus nombres de pila).

Por esas mismas semanas comenzaron a oírse con fuerza voces que auguraban el inminente primer pinchazo de la burbuja de la IA. Teniendo en cuenta que la burbuja puntocom de internet había demorado en estallar entre siete y ocho años, quizá fuera la ansiedad ambiente la que hacía que dos años parecieran, o en realidad fueran, demasiado tiempo.

Desde 2023, estas noticias vienen poblando de manera creciente los medios y las plataformas de conversación pública, sin que sea muy claro cuánto hay de fantasía, cuánto de fascinación y temor, cuánto de investigación confiable. Para volver más inteligible este escenario, ampliaré aquí de qué se trata la cuestión de la superinteligencia, esbozada en el capítulo anterior, y comentaré las que identificó como las cinco principales discusiones que rodean hoy la emergencia de las IA “de frontera”.

Una improbabilidad

En el ámbito cultural, el término superinteligencia se utiliza particularmente en la ciencia ficción y en textos de no ficción tecnofuturistas. Y si bien no hay consenso acerca de que algo así como una superinteligencia pueda existir por fuera de estos márgenes, el vocablo se refiere a seres o máquinas con una inteligencia superior a la humana en muchas o todas las áreas donde entendemos razonablemente que se manifiesta la inteligencia (nunca se mencionan todas: la definición es enumerativa incompleta por el momento).

“Según el conocimiento del que se dispone —señala la conspicua Wikipedia alemana—, no existe un ser que en verdad sea intelectualmente superior y que cumpla los criterios de superinteligencia”. En seguida presenta una definición que sigue la de Nick Boström, fundador y director del Instituto Futuro de la Humanidad en la Universidad de Oxford desde su creación en 2005 hasta que cerró sus puertas en 2024, y autor —entre otras obras— del libro Superinteligencia. Caminos, peligros, estrategias, de 2014 (cuyo traductor al castellano llama, en una dramatizada introducción, una “obra trascendental”).

En 1998, cuando todavía usaba la diéresis sobre la “o” y estaba fundando con David Pearce la Asociación Transhumanista Mundial, Boström publicó un artículo titulado “¿Cuánto tiempo falta para la superinteligencia?” en el International Journal of Future Studies, en cuyo resumen señala: “Este texto describe las razones para creer que tendremos una inteligencia artificial superhumana en el primer tercio del próximo siglo”. La definía así:

“Por ‘superinteligencia’ nos referimos a un intelecto mucho más inteligente que los mejores cerebros humanos en prácticamente todos los campos, incluyendo la inteligencia creativa, la capacidad de resolver problemas y las habilidades sociales. Esta definición deja abierta la forma en que se implementará: podría ser una computadora digital, un ensamble de redes de computadoras, tejido cortical cultivado o lo que sea. También deja abierto si la superinteligencia es consciente y tiene experiencias subjetivas. Entidades como las empresas o la comunidad científica no son superinteligencias, según esta definición […]. [Ellas] no son intelectos y hay muchos campos en los que su rendimiento es mucho menor que el de un cerebro humano; 80 vidas artificiales por ejemplo, no se puede mantener una conversación en tiempo real con la ‘comunidad científica’”.

En el artículo “Historia del pensamiento transhumanista”, de 2011, Bostrom, ya sin diéresis, cuenta que la idea de una singularidad tecnológica o superinteligencia (no son lo mismo, pero a los efectos de esta inmersión podemos considerarlas ideas muy cercanas) fue insinuada por primera vez por John von Neumann. Se refiere a la hipótesis de una inteligencia o cognición maquínica que, al aprender por sí misma a gran velocidad, da lugar a una suerte de “explosión de inteligencia”. Esos precisos términos fueron los que utilizó en 1965 Irving Good, quien se había desempeñado como criptógrafo del equipo de Alan Turing en Bletchley Park durante la Segunda Guerra Mundial, y luego siguió trabajando con él en el diseño de computadoras en la Universidad de Manchester.

Según la forma más conocida de la idea de Good, un agente maquínico inteligente podría eventualmente entrar en un bucle de retroalimentación positiva, que daría lugar a generaciones más inteligentes cada vez más rápido. El vertiginoso aumento de inteligencia culminaría en una poderosa superinteligencia que superaría en mucho la inteligencia humana. Esta tesis fue retomada en 1993 por el matemático, teórico de la computación y también escritor de ciencia ficción Vernor Vinge en un artículo conocido como “La singularidad tecnológica”, y luego la popularizó Raymond Kurzweil, el audaz futurista e investigador principal de IA en Google desde 2012.

En La Singularidad está cerca, de 2005, Kurzweil predecía la fusión de la conciencia humana y la de las máquinas en una civilización posthumana superconectada en torno a 2045. Auguraba un futuro de longevidad (para ayudar a la causa desarrolló una línea de suplementos alimentarios) y sin problemas: ni hambre, ni crisis climática, ni energética. No había referencias a cómo sería posible algo así, pero hay que decir que no solo en este caso; hay varias otras improbabilidades sociales y políticas, aún más que tecnológicas, en ese libro. Siguiendo la superinteligencia y la nube de humo 81 el impulso de la más reciente ola de IA, en 2024 publicó La Singularidad está más cerca. Cuando nos fusionamos con la IA.

Allí Kurzweil afirma que para la década de 2030, “uno de los avances más trascendentales será la conexión de las capas superiores del neocórtex con la nube, lo que ampliará la capacidad de razonamiento del ser humano”. Para ese momento, sigue escribiendo, “los fragmentos ‘no biológicos’ del cerebro humano nos proporcionarán una capacidad cognitiva miles de veces superior a la que hoy nos ofrecen sus componentes orgánicos”. Augura que, con velocidad exponencial, se ampliará “la capacidad del cerebro humano varios millones de veces antes de 2045”, y que la hoy inimaginable velocidad y magnitud de esta transformación es lo que permite utilizar la metáfora de la singularidad inspirada en las leyes de la física para describir nuestro futuro”.

Tan lejos, tan cerca

Las respuestas no se hicieron esperar. Dejando de lado a los aduladores, este libro de Kurzweil suscitó más lecturas de expertos en ciencia, tecnología y sociedad que los anteriores. El historiador y estudioso de la tecnología Edward Tenner señaló que “ofrece una buena excusa para reflexionar sobre los profundos cambios que, nos guste o no, nos trae la tecnología”. Con todo, agregó no sin ironía, “su contribución más valiosa podría ser como contrapeso a los sombríos estudios sobre la cultura y la política contemporáneas en una era de populismo antirracional. De hecho, la casi certeza de Kurzweil de que la tecnología está a punto de salvarnos de nosotros mismos podría ser la luz
más brillante en un firmamento deprimente”.

“La Singularidad es miope”, tituló Forbes, con un juego de palabras (near, “cerca”; nearsighted, “miope”), un texto del experto en tecnología David Teich, quien señala que el libro de Kurzweil “tiene casi todos los problemas” de la mayoría de los textos sobre IA, que “se niegan a analizar el impacto en el 82 vidas artificiales mundo real para la mayoría de nosotros”. Con distinto énfasis, tanto Teich como Tenner mencionan los efectos sobre el mundo del trabajo, la espiral de desigualdad, los posibles usos maliciosos, los costos ambientales y energéticos. Y en efecto, el costo energético es uno de los puntos ciegos del desarrollo de estos modelos de IA en Occidente. Es tal la demanda energética que Microsoft se propuso reabrir la central nuclear de Three Mile Island, que había sido cerrada después del accidente de 1979, el primero en la energía nuclear civil del que se tiene registro, y el que inspiró el libro Accidentes normales, publicado en 1984 por el sociólogo de las organizaciones Charles Perrow. En junio de 2025 se anunció que la planta se reabrirá en 2027, un año antes de lo previsto originalmente.

Por cierto, la creciente necesidad de electricidad para alimentar centros de datos, fábricas y hogares está revitalizando la industria nuclear en los Estados Unidos de Donald Trump. El estado de Nueva York anunció ese mismo mes planes para construir un nuevo reactor en el estado, y en agosto de 2025 Holtec International informó que reiniciaría la planta de Palisades en Michigan, que había cerrado en 2022. Volviendo a Teich, termina su texto exhortando “encarecidamente” a evitar este libro y leer Frenar a Silicon Valley, de Gary Marcus.

“La Singularidad es estúpida”, redobló en The Washington Post la ensayista y crítica cultural Becca Rothfeld. “No cabe duda de que la IA pronto superará a los humanos en muchos aspectos, y Kurzweil tiene razón al sospechar que la sociedad cambiará considerablemente —acepta Rothfeld—. Hace tiempo debería haberse hecho una evaluación seria de lo que las computadoras pueden y lo que no pueden aportar al proyecto humano, pero lamentablemente La Singularidad está más cerca no lo hace”.

Incluso en un espacio libertario como el think tank Cato, el especialista en innovación y políticas públicas Thomas Hemphill aseguró que le preocupa que la perspectiva de laissez-faire de Kurzweil con respecto a la innovación tecnológica (con la que Hemphill en líneas generales acuerda, y que es bien distinta del “principio precautorio” más típicamente europeo) pueda ser ingenua. “Incluso un enfoque abierto para la innovación tecnológica —escribió Hemphill— reconoce la necesidad de directrices regulatorias y legales claras y responsables, aplicadas por un gobierno transparente y receptivo, para garantizar que la innovación no viole las libertades humanas”.

El recién mencionado Gary Marcus también es escéptico acerca de la superinteligencia. “Es solo una exageración de quienes no comprenden lo lejos que estamos de la inteligencia genuina —afirmó en agosto de 2024—, y no tenemos que preocuparnos (al menos en un futuro próximo) por la extinción”. Eso no le impide comprender que las IA pueden generar “muchas amenazas graves”. Según Marcus, la actual generación de inteligencias artificiales “se ha convertido en una herramienta extremadamente poderosa para generar desinformación”; se la puede inducir “a que enseñe a la gente a fabricar armas biológicas”, puede socavar la ciberseguridad e introducir sesgos en decisiones laborales.

Sin duda la atmósfera de preocupación va más allá del libro de Kurzweil. El físico Michael Nielsen, uno de los impulsores de la computación cuántica y el movimiento de ciencia abierta, escribió desde 2023 varios ensayos reflexivos sobre superinteligencia y riesgo existencial, en los que recorre los debates contemporáneos y expone algunos de sus propios interrogantes. En un texto de septiembre de ese mismo año sostiene que “la humanidad puede lograr la superinteligencia artificial”, y que es probable que eso suceda “pronto, dentro de tres décadas, quizás mucho antes, si no ocurre un desastre ni se hace un gran esfuerzo de desaceleración”. En tanto Dario Amodei, uno de los hermanos cofundadores de Anthropic, la big tech más involucrada en la seguridad de la IA, escribió en enero de 2026 un largo ensayo, “La adolescencia de la tecnología”, donde afirma:
“Estamos entrando en un rito de pasaje turbulento e inevitable, que pondrá a prueba quiénes somos como especie. La humanidad está a punto de recibir un poder casi inimaginable, y no está nada claro si nuestros sistemas sociales, políticos y tecnológicos poseen la madurez para ejercerlo”.

Llegados hasta aquí, retomamos la pregunta acerca de cómo se conecta esto que hasta hace poco considerábamos una fantasía futurista con la carta que mencionamos al comienzo. ¿Por qué un grupo relevante de expertos —desde premios Nobel hasta historiadores, desarrolladores y directores universitarios de departamentos de computación, esto es, personas cuya autoridad erudita está en juego— piden prohibir algo que otros expertos señalan como improbable? ¿Cómo comprender el sentido de esa carta, más allá de las especulaciones, razonables pero desde mi punto de vista algo toscas, de que se trata solo de una estrategia de marketing —para conseguir fondos de financiación, para entretener a las audiencias, para confundir a la competencia—?

Teniendo en cuenta la mezcla de desconcierto, desmesura publicitaria y perplejidad (la “nube de humo” del título) que marca nuestro tiempo, propongo abordar estos interrogantes siguiendo las controversias sobre las IA de frontera que se dieron en ámbitos académicos, periodísticos y políticos a partir de 2023, cuando se pusieron en disponibilidad pública las IA generativas y, en particular, los grandes modelos de lenguaje. Pero antes, algunas informaciones.

Una. En mayo de 2024, el informático teórico Ilya Sutskever, discípulo de Geoffrey Hinton —con quien participó en el desarrollo de la red neuronal AlexNet— y uno de los cofundadores de OpenAI, se fue de esa empresa peleado con Sam Altman, el director ejecutivo. Desde hacía poco menos de un año Sutskever era el líder del equipo de superalineación junto con el investigador de aprendizaje automático Jan Leike. La alineación o alineamiento de IA busca prevenir resultados engañosos, incorrectos o dañinos, así como usos maliciosos, mediante procedimientos de aprendizaje por refuerzo a partir de la retroalimentación humana. Entre las informaciones que trascendieron en su momento, se supo que Sutskever veía en la comercialización apresurada que Altman impulsaba para OpenAI un riesgo de seguridad. Pocos meses después fundó junto con dos socios una startup llamada Safe Superintelligence, con sede en Palo Alt (EE. UU.) y Tel Aviv (Israel), cuyo objetivo explícito es “desarrollar sistemas de IA superiores a los humanos, pero también seguros”. Leike, por su parte, se fue en el mismo momento y pasó a trabajar en Anthropic.

Dos. El 26 de marzo de 2025, luego de un apagón eléctrico que dejó a España, Francia y Portugal sin suministro hasta por 20 horas, un documento de la Comisión Europea incluyó una recomendación a los ciudadanos europeos de tener listo un kit de supervivencia que permita afrontar hasta 72 horas sin asistencia externa, una medida que pretende reforzar la preparación de los hogares ante emergencias como apagones, desastres naturales o posibles conflictos armados. El kit incluye agua embotellada (cinco litros por persona), alimentos fáciles de preparar no perecederos, radio a pilas, linterna, batería de repuesto para el teléfono móvil, hornillo portátil y garrafa, combustible, fósforos, dinero en efectivo, medicamentos, pastillas de yodo, material de primeros auxilios, artículos de higiene y extintor. La recomendación incluye tener a mano documentos de identidad y cargador para dispositivos electrónicos.

Tres. En noviembre de 2023, Gran Bretaña impulsó la primera Cumbre sobre Seguridad (safety) de la IA. En diciembre de ese año se creó el AI Safety Institute, la primera organización respaldada por un Estado dedicada a probar la seguridad de la IA avanzada, y en febrero de 2025 su nombre pasó a ser AI Security Institute. No fue solo un cambio de nombre sino de enfoque: desde la seguridad sistémica (safety), que protege la integridad para las personas, el ambiente y los derechos fundamentales, hacia la seguridad entendida como protección (security) ante el delito y orientada a objetivos de Defensa.

Desde entonces se crearon otros once institutos de seguridad de la IA en el mundo dedicados a analizar los riesgos y potenciales daños de estas metatecnologías: en los Estados Unidos, Japón, la Unión Europea, Singapur, Israel, India, Francia, Corea del Sur, Canadá, Alemania y Brasil, y están anunciados en Kenya y Australia. Sus objetivos suelen coincidir: monitorear el panorama del desarrollo de IA; hacer evaluación de los riesgos que plantea para la seguridad nacional y la seguridad pública; promover soluciones como defensas en profundidad, alineación y control; trabajar con desarrolladores de IA para garantizar un desarrollo responsable; informar a los responsables de políticas sobre los riesgos actuales y emergentes de la IA; colaborar y compartir hallazgos con instituciones aliadas.

Esos institutos están inscritos en iniciativas nacionales o regionales de IA, muchas veces acompañados de marcos regulatorios específicos: pueden ser leyes o políticas del Poder Ejecutivo. En nuestra región, Chile, Brasil y Uruguay tienen iniciativas nacionales de IA consistentes y son, de hecho, los tres países considerados pioneros en la edición 2025 del Índice Latinoamericano de IA (ILIA), que mide el estado de avance de la inteligencia artificial en 19 naciones de América Latina y el Caribe de acuerdo con la madurez alcanzada en tres grandes áreas: (a) factores habilitantes (infraestructura, datos, talento humano); (b) investigación, desarrollo y adopción; y (c) gobernanza. Les siguen a esos tres, en orden según el nivel alcanzado, Colombia, Costa Rica, Argentina, Perú, México, República Dominicana, Ecuador y Panamá. Chile, por ejemplo, cuenta desde 2021 con una Política Nacional de IA desde la cual se ha impulsado la creación del Centro Nacional de Inteligencia Artificial (CENIA): una corporación público-privada de investigación y desarrollo, que creó herramientas como el propio índice ILIA y el modelo de lenguaje Latam-GPT. Pese a que la gobernanza no se limita a la legislación (involucra, entre otros aspectos, la participación en el diseño de estándares internacionales como las normas ISO, o consultas públicas a la población sobre estrategias de adopción), en la región solo Brasil tiene un proyecto de ley con media sanción. Países como Chile, México y Argentina están en etapas previas de debate legislativo.

Vuelvo ahora a la idea de que en el futuro recordaremos estos años como un tiempo transcurrido “entre accidentes”: de la pandemia provocada por el covid-19 al desencadenamiento de uno o varios de los riesgos sistémicos que conllevan los nuevos tipos emergentes de IA. El primero de estos accidentes, la pandemia del coronavirus, ubicó a buena parte de la población del mundo en la necesidad de ingresar a un shock de virtualización. E instaló en la conversación pública la necesidad de interceptarlo a través de un “nuevo acuerdo tecnológico”: un tech new deal para unas nuevas democracias digitales. Con respecto a los potenciales “accidentes normales” de la IA, en el tiempo transcurrido desde aquel alerta público que pedía poner pausa a su desarrollo, se ha disparado una enorme cantidad de interrogantes, debido a la fuerza disruptiva con la que esta metatecnología parece atravesar las diversas escalas de la vida social, y porque la aceleración que imprime a los procesos que automatiza se manifiesta, al menos en este momento —en el cruce no contingente sino histórico entre la tendencia técnica y la tendencia bio(tanato)política—, como un impulso de destitución de muchas de las mediaciones que constituían y favorecían hasta hace poco “lo social”.

“Hemos atravesado un período en que se ha hecho creera demasiadas personas: ‘¡Tengo un problema, es responsabilidad del gobierno solucionarlo!’ […] Así, proyectan sus problemas en la sociedad, pero ¿qué es la sociedad? ¡No existe tal cosa! Existen individuos, hombres y mujeres, y existen familias. Ningún gobierno puede hacer nada excepto a través de las personas, y las personas deben velar primero por sus propios intereses”. La frase es de la entonces primera ministra británica Margaret Thatcher en una entrevista que dio en 1987 al semanario Woman’s Own. En ella señalaba la dirección de una ideología que niega la existencia, y por ende la potencia, de la siempre provisoria estabilización cultural e institucional de las asociaciones, las relaciones entre personas que se acompañan y siguen unas a otras a lo largo del tiempo (por años, décadas, incluso siglos enteros) sin necesidad de que las una el parentesco: gremios, partidos políticos, movimientos sociales, organizaciones religiosas, instituciones científicas, sindicatos, academias, grupos espirituales, movimientos rtísticos, organizaciones profesionales, agrupaciones estudiantiles, escuelas filosóficas, clubes sociales y deportivos, universidades, iglesias, escuelas de pensamiento. Es decir, niega la realidad humana. O con más precisión: busca debilitar la compleja y entramada sociabilidad tardomoderna para fragilizarla y volverla ordenable “desde arriba”. Lo hace mediante el desprestigio y el bombardeo a estas instancias de mediación, acción que hoy encuentra en las IA “de frontera” un medio ideal.

Las tecnologías desencadenadas para automatizar y “saltearse” lo social presentan una sugestiva correlación con una filosofía de la historia que solo quiere ver individuos sin asociación, sin socius, sin la fortaleza del acompañamiento sostenido. No es extraño, entonces, que entrado 2026 la “crisis de la democracia” haya dejado de ser un horizonte de amenaza emergente para sedimentarse en un hecho constatable. En él convergen desde la radicalización de los sistemas de partidos hasta la subordinación de los poderes judiciales, pasando por el descrédito en las instituciones representativas, la polarización algorítmica y la progresiva pérdida de autoridad de los organismos multilaterales. La incertidumbre afecta a quienes formaron sus marcos de comprensión en otro escenario y condiciona a quienes todavía los están construyendo. Y aun así, esta apertura temporal puede ser un momento de gran potencial heurístico. Nuestros saberes y nuestras prácticas expertas sobre lo social tienen por delante un doble desafío: la inteligencia artificial y, sobre todo, la sociedad artificial que el siglo XXI ya está produciendo.

La entrada La superinteligencia y la nube de humo se publicó primero en Revista Anfibia.