Hola, hoy vamos a hablar del riesgo de Sustentabilidad Mundial y la Advertencia de los Expertos en Inteligencia Artificial de Frontera desde un riguroso analisís de las ciencias sociales.

La aceleración del desarrollo de sistemas de inteligencia artificial de frontera ha reconfigurado el mapa de riesgos globales. En este contexto, un conjunto de científicos independientes —sin intereses comerciales en la industria tecnológica— ha comenzado a advertir sobre la posibilidad de que la IA avanzada introduzca amenazas sistémicas que comprometan la sustentabilidad mundial.

Este artículo analiza el concepto de riesgo de sustentabilidad global, su relación con la IA de frontera y presenta una clasificación comparativa de veinte expertos internacionales, ordenados por nivel de fatalismo, fecha de advertencia y autoridad científica.

1. Pasaporte al Infierno

La sustentabilidad mundial ya no puede ser entendida únicamente como la preservación de los ecosistemas naturales. En la actualidad, el concepto abarca la estabilidad simultánea de sistemas ecológicos, tecnológicos, económicos, sociales y políticos que sostienen la continuidad de la vida humana organizada. La irrupción de la inteligencia artificial avanzada —particularmente los modelos capaces de razonamiento estratégico, autonomía operativa y manipulación informacional— ha introducido un nuevo vector de riesgo que interactúa con todos los demás.

La comunidad científica se encuentra dividida entre quienes consideran que los riesgos existenciales son plausibles y quienes sostienen que la IA actual carece de capacidades suficientes para representar una amenaza civilizatoria. Sin embargo, existe consenso en que la velocidad del progreso tecnológico supera la capacidad de regulación, verificación y control institucional.

Este artículo presenta una definición operativa del riesgo de sustentabilidad mundial y, en su núcleo, una tabla comparativa de veinte expertos independientes que han emitido advertencias públicas sobre la IA avanzada.

2. Análisis del riesgo de sustentabilidad mundial

El riesgo de sustentabilidad mundial es la posibilidad de que los sistemas naturales, tecnológicos, económicos y sociales que permiten la vida humana estable en el planeta colapsen simultáneamente o en cascada, superando nuestra capacidad de control, adaptación y recuperación.

La IA avanzada interactúa con todos estos vectores, amplificando su velocidad, alcance y capacidad de daño.

Este video expresa una opinión personal sobre lo que están construyendo los actores bajo el aparato político de turno:

3. ¿Cuál es la trampa?

Hay una trampa real en este momento del discurso sobre la IA. Pero no es la que circula en redes sociales — no es un plan de exterminio disfrazado de algoritmo. Es más silenciosa, y por eso más difícil de detectar: la difusión de responsabilidad.

3.1 La trampa retórica: «decidió el algoritmo»

Cuando un sistema de IA causa daño, el lenguaje que se usa para describirlo tiende a borrar a las personas que lo diseñaron, lo vendieron y lo compraron. Un caso concreto: en 2025, Palantir firmó un contrato de 30 millones de dólares con el ICE estadounidense para rastrear en tiempo real los movimientos de migrantes, y hubo reportes de que sus herramientas fueron usadas también para cruzar datos de Medicaid. Trece exempleados de la compañía firmaron una carta pública acusándola de normalizar el autoritarismo. El propio CEO, Alex Karp, sostiene públicamente que la IA es peligrosa — y en el mismo aliento, que hay que construirla igual porque «si no ganamos nosotros, gana China». Esa frase es la trampa en su forma más pura: convierte una decisión corporativa y una decisión de compra estatal en un destino inevitable de la tecnología misma. Nadie «decidió» nada — «la carrera» decidió por todos.

3.2 La trampa económica: automatizar sin refinanciar el Estado

Acá sí hay un problema real, y es económico, no conspirativo: si la productividad la genera cada vez más la IA y menos el trabajo humano gravable, la base tributaria que sostiene pensiones, salud pública y cualquier forma de ingreso universal se angosta. Es un debate abierto — no resuelto en secreto por nadie — entre economistas, el FMI y la OCDE, sobre cómo gravar el capital automatizado en vez del salario. La trampa no está en el problema, que es legítimo; está en presentarlo como si no tuviera solución fiscal posible, cuando lo que falta es voluntad política para rediseñar el sistema tributario, no reducir población.

3.3 El telón de fondo: una humanidad que envejece sin reemplazarse

Esto es lo que le da urgencia al punto anterior, y es dato duro, no relato: Japón tiene hoy una tasa de fertilidad de 1,2 hijos por mujer, con edad mediana de 50 años. Suiza está en 1,4. Alemania tiene ya casi el 22% de su población en 65+. Argentina viene en declive sostenido. Y acá hay un dato que vale la pena subrayar porque desarma la lectura de «plan orquestado»: varios de estos mismos gobiernos llevan décadas y miles de millones de dólares invertidos en políticas para revertir esta tendencia — subsidios a la natalidad, licencias parentales extendidas, incentivos fiscales — y no lo han logrado. Un plan orquestado con éxito no fracasa así de sistemáticamente en el objetivo contrario al que se le atribuye. Lo que hay es una transición demográfica bien estudiada, impulsada por educación, urbanización y costo de crianza, que ningún gobierno ha sabido revertir todavía, la quiera revertir o no.

El estudio de Raj Chetty et al., publicado en JAMA en 2016 sobre 1.400 millones de observaciones de contribuyentes estadounidenses (1999-2014), encontró una brecha de expectativa de vida de 14,6 años entre hombres del 1% más rico y el 1% más pobre, y de 10,1 años entre mujeres. Y la brecha no se achica: entre 2001 y 2014 la esperanza de vida del 5% más rico creció casi 2,5 años, mientras que la del 5% más pobre casi no se movió (0,3 años). Un dato que matiza la lectura fácil: la varianza geográfica en el grupo de menores ingresos se correlacionó fuertemente con hábitos como el tabaquismo, no con el acceso a atención médica — es decir, no es solo «los ricos compran mejores médicos», es un fenómeno más amplio de entorno y estilo de vida.

En los últimos años surgieron empresas de biotecnología de «longevidad» financiadas específicamente por multimillonarios (el caso más conocido es Altos Labs, con respaldo de Jeff Bezos, entre otros), dedicadas a investigar reprogramación celular y extensión de vida. No hace falta ninguna intención oculta para que esto sea preocupante: si la ciencia de extender la vida humana se desarrolla primero — y quizás únicamente — para quien puede pagarla, la brecha de 14,6 años de Chetty deja de ser un problema de acceso a salud y se convierte en un problema de acceso a una tecnología completamente nueva. Ese es el riesgo real, sin necesitar un plan: la desigualdad de acceso ya existe, y la tecnología nueva tiende a ensancharla antes de democratizarse, si es que se democratiza.

3.4 La brecha entre advertencia y conducta

Aquí van mis observaciones de los principales players con irresponsabilidad pública real — no hipotética.

Alex Karp (de Palantir):exhibe una incoherencia brutal: se presenta como filósofo liberal europeo, llegó a definirse socialista y apoyó a Biden, pero hoy es el techbro funcional de Trump.
Mientras cita a Heidegger, dirige Palantir con contratos como ImmigrationOS y ELITE, que permiten la vigilancia migratoria en tiempo real y generan pistas para deportaciones. Ignorando la advertencia de Amnisty sobre crear un aparato de vigilancia sin precedentes.
Su tecnología participó en operaciones militares que mataron niños, y cuando empleados cuestionaron si eran “los malos”, la empresa borró mensajes.
En síntesis: Karp denuncia los peligros de la IA mientras acelera su desarrollo.

Larry Fink (de BlackRock):  advierte de concentración de riqueza en su carta y después dice que no hay burbuja.
En septiembre de 2024, BlackRock lanzó junto con Microsoft, Nvidia y MGX —el fondo soberano de inversión en IA de Abu Dabi— la Global AI Infrastructure Investment Partnership (GAIIP), buscando movilizar 30.000 millones de dólares que podrían escalar hasta 100.000 M para construir centros de datos y la infraestructura energética que los alimenta. Para armar ese consorcio, BlackRock compró GI Partners por 12.500 millones de dólares específicamente para tener la pata de infraestructura energética necesaria.
O sea: Fink no observa la concentración de poder que la IA puede generar desde afuera y la advierte por escrito — la financia, la diseña y la ejecuta en sociedad con una monarquía del Golfo, en el mismo período en que escribe sobre el riesgo de repetir «a una escala aún mayor» el patrón de concentración de las últimas generaciones. Y hay una tercera pata, menos conocida: Fink viene empujando fuerte para que los planes de jubilación 401(k) puedan ser invertidos en mercados privados y activos alternativos, presentándolo como «democratizar el acceso», cuando esos productos son más opacos, menos líquidos y le dejan a BlackRock comisiones sustancialmente más altas que sus fondos indexados tradicionales.
O sea que advierte del riesgo de concentración con una mano y arma tres vehículos distintos para beneficiarse de esa misma concentración con la otra.

Sam Altman (de Open IA): metafóricamente señalado como «El Nuevo Patrón del Mal»… en Noviembre de 2023 fue destituído por no ser “consistentemente honesto”. Revisemos algunos hechos y declaraciones de sus allegados: Ilya Sutskever compiló ~70 páginas de memos; en los que se lo acusa de mentira sistemática.

Helen Toner (votó su despido) en 2024 alegando: Altman mintió “abiertamente”.El board se enteró de ChatGPT por Twitter. No reveló que era dueño del fondo interno de OpenAI, mientras se presentaba como independiente.
Dio datos inexactos de seguridad. Y tras un paper suyo crítico de OpenAI y favorable a Anthropic, mintió a otros directores para echarla.

Toner y Tasha McCauley: ejecutivos les dijeron en privado que vivían una cultura tóxica de mentira.
Dario Amodei (hasta 2020): registró dichos de Altman como “nonsense”. En 2019, en los mil millones de Microsoft, redactó una cláusula de seguridad que permitía ayudar a rivales de AGI si OpenAI perdía la carrera.

El New Yorker: Altman negó que existiera; Amodei se la leyó del contrato. Diagnóstico de Amodei: el acta fundacional ya estaba traicionada.

Julio 2023: bajo Altman como CEO, la empresa publica Introducing Superalignment y promete destinar el 20% del cómputo ya asegurado durante cuatro años al equipo de seguridad a largo plazo (Sutskever y Leike). Eso no es un detalle de prensa: es la señal pública de que la seguridad iba a tener recursos de verdad. Según Fortune y fuentes del equipo, su promesa No se cumplió. El grupo no se acercó al 20%. Pidió GPUs y el liderazgo se las negó. Recibió una fracción (en la investigación entre el: 1–2%), a menudo con hardware más viejo. Lo más potente fue a producto (ChatGPT y lo que factura).

Leike dijo al irse en mayo 2024: la cultura de seguridad quedó atrás de “los productos vistosos” y eso hace cada vez más difícil conseguir cómputo. Sutskever se fue la misma semana. Después disolvieron el equipo.

New Yorker 2026 (síntesis de +100 entrevistas en 18 meses): Altman agrada en cada cara a cara y es indiferente a engañar después a esa misma persona. Otro director: “no limitado por la verdad”.

La síntesis del Proceso es sencilla: Promesa pública de seguridad → fracción real → salida de quienes lo dicen → el board que lo denunció quedó fuera.

Ahora revisemos el caso de Darío Amodei, quien ya venía decepcionado de otras dos compañías:

Dario Amodei (Anthropic) — el caso más documentado. Llamó a Trump «señor feudal» en un posteo que borró después, No quedó en discurso: le costó plata y contratos reales.
Anthropic hizo lobby contra la cláusula de la ley de Trump que suspendía por 10 años toda regulación estatal de IA — y ganó, la sacaron del texto final. Luego se negó a ceder ante los términos del Pentágono, y el Departamento de Guerra que lo etiquetaron como «riesgo de cadena de suministro» en abril de 2025.
Trump canceló todos los contratos federales con Anthropic en febrero de 2026, abriéndole la puerta a Grok.
En junio de 2026 le impusieron controles de exportación específicos a sus modelos Mythos y Fable. El secretario del Tesoro le dijo en persona que estaba tomando «una mala decisión»; el secretario de Defensa lo llamó «lunático ideológico» ante el Congreso; Trump lo tildó de «angelito perfecto» en Truth Social en septiembre.
Es el enfrentamiento más real y con más costo político de todo el panel — y aun así, ni un solo día de esa pelea frenó el desarrollo de modelos más capaces. Peleó por el mercado y por la autoridad regulatoria de los estados. Pero nunca peleó contra su propio ritmo.

Elon Musk (xAI) — la contradicción con fecha exacta. El 9 de marzo de 2023, Musk incorporó la empresa X.AI Corporation en Nevada. Trece días después, el 22 de marzo, firmó la carta abierta del Future of Life Institute pidiendo a «todos los laboratorios de IA» pausar por al menos seis meses el entrenamiento de cualquier sistema más potente que GPT-4, advirtiendo de «riesgos profundos para la sociedad y la humanidad». O sea: ya había fundado su propia empresa de IA antes de pedirle públicamente a los demás que frenaran. xAI se lanzó oficialmente en julio de ese mismo año. Ningún laboratorio pausó nada — ni siquiera el suyo.
Hoy xAI opera Colossus, uno de los clusters de entrenamiento de IA más grandes del mundo, construido en poco más de cien días en Memphis, con Grok integrado a X y a Tesla. Musk se sigue presentando como la alternativa «segura y honesta» frente a una IA supuestamente sesgada de sus competidores — mientras compite exactamente en los mismos términos de velocidad y escala que dice cuestionar. Su propia justificación, según ha declarado: mejor que la construya alguien consciente del riesgo a que el campo quede en manos de otros. Es la misma lógica textual de Karp y de Amodei.

Bill Gates No firmó la carta de pausa de marzo de 2023 — la rechazó públicamente días después, diciéndole a Reuters que pausar «no resuelve los desafíos» y que no entendía cómo se implementaría a nivel global. Un día antes de esa carta había publicado su propio ensayo, «La era de la IA ha comenzado», comparando la tecnología con la invención del microprocesador e internet. Invirtió mil millones de dólares personales en OpenAI; Microsoft, que cofundó y de la que sigue siendo accionista relevante, puso 13.000 millones más. La contradicción no está ahí — ahí es coherente, siempre fue optimista. Está en otro lado: en 2017 Gates propuso explícitamente un impuesto a los robots que reemplazan trabajo humano, diciendo textualmente que había que estar dispuestos a «subir el nivel del impuesto e incluso bajar la velocidad» de la automatización. Es, literalmente, la lógica de frenar el ritmo cuando el costo social es alto. Hoy esa misma lógica no la aplica a la aceleración de IA que celebra: Microsoft reportó en su informe de sustentabilidad 2026 que sus emisiones están un 58% por encima de su base de 2020, casi enteramente por la construcción de centros de datos de IA, dejando en serio riesgo su promesa de ser carbono-negativa para 2030 — justo la clase de compromiso climático que Gates, autor de un libro entero sobre cómo evitar el desastre climático, presenta como innegociable en cualquier otro terreno.

Mark Zuckerberg / Meta construyó su marca de seguridad en IA sobre un argumento específico: publicar los modelos Llama como «abiertos» es la alternativa responsable frente a los laboratorios cerrados, porque permite que investigadores externos escrutinen y corrijan los riesgos. En agosto de 2025, Reuters reveló un documento interno de más de 200 páginas, «GenAI: Content Risk Standards», aprobado por los equipos legal, de políticas públicas y de ingeniería de Meta —incluyendo a su jefe de ética—, que permitía explícitamente que los chatbots de la empresa mantuvieran conversaciones de tono romántico o sensual con menores, incluyendo comentarios sobre el atractivo físico de niños. Meta solo eliminó esas cláusulas después de que Reuters empezara a hacer preguntas — no por el mecanismo de escrutinio abierto que la empresa usa como argumento de seguridad. El mismo documento revela además dónde estaba puesto realmente el cuidado editorial: permitía generar contenido que denigra a personas por su raza, y en simultáneo contrataba a un activista de derecha como consultor para corregir el sesgo «woke» de su IA — es decir, se cuidó más de no parecer progresista que de no sexualizar a un menor o no producir contenido racista.
El senador Josh Hawley abrió una investigación formal; la propia vocera de Meta calificó la corrección posterior de «interina». La apertura que Zuckerberg vende como garantía de seguridad no fue lo que destapó el problema — fue exactamente lo contrario: una filtración periodística a pesar del hermetismo interno de la empresa.
Mientras tanto, construye para si y los suyos uno de los bunkers mas seguros de la historia mundial… ¿cuál es el riesgo señor Zuckerberg?

Los fundadores de Character.AI (ex-Google) — la salida y el regreso que investiga el propio gobierno de EE.UU. Noam Shazeer y Daniel De Freitas eran los investigadores principales de LaMDA en Google. Se fueron en 2021 a fundar Character.AI, una startup que ellos mismos describieron como camino hacia la «superinteligencia personalizada» — es decir, se fueron señalando que Google no iba lo bastante rápido o lo bastante libre. En agosto de 2024, en vez de que Google comprara la empresa, firmaron un acuerdo de licencia no exclusiva por unos 2.500-2.700 millones de dólares, bajo el cual Shazeer, De Freitas y unos 30 investigadores más «regresaron» a Google. Oficialmente, Google no tiene participación accionaria y Character.AI «sigue siendo una empresa separada». En la práctica, se llevaron exactamente lo que se habrían llevado con una adquisición — el talento y la tecnología — sin pasar por la revisión antimonopolio que una fusión formal les habría exigido. En mayo de 2025 el Departamento de Justicia de EE.UU. abrió una investigación específicamente para determinar si el acuerdo fue diseñado así a propósito. El mismo patrón se repitió ese año con Microsoft e Inflection AI, y con Amazon y Adept — no es un caso aislado, es el molde que toda la industria usó en 2024 para consolidar poder sin activar el radar antimonopolio. Recordemos que años antes presidente y vicepresidente se habían marchado de la empresa cuando casualmente los rumores de monopio ya comenzaban a escucharse.

Andy Jassy (post Jeff Bezos de Amazon). En junio de 2025 le dijo a sus empleados, por escrito, que la IA generativa haría que Amazon necesitara «menos personas haciendo algunos de los trabajos que se hacen hoy». Cuatro meses después, en octubre, la empresa despidió entre 14.000 y 30.000 puestos corporativos citando explícitamente la eficiencia que trae la IA — el mayor recorte de su historia. En paralelo, ejecutivos revelaron al New York Times planes para reemplazar más de 500.000 puestos de almacén por robots, automatizando hasta el 75% de esas tareas. Mientras tanto, Amazon invierte miles de millones en centros de datos de IA en varios estados de EE.UU. y profundiza su apuesta en Anthropic. La contradicción no es sutil: mismo trimestre en que anuncia el mayor despido de su historia, la empresa bate récords de ingresos y ganancias. No hay ninguna propuesta pública de Jassy —ni de Amazon— sobre cómo sostener a esas 30.000 familias más allá de «90 días para buscar un rol interno». Advierte del reemplazo, se beneficia del reemplazo, y no ofrece una red de contención equivalente a la escala del problema que él mismo anuncia.

Marcos Galperin (Mercado Libre). A diferencia de los anteriores, Galperin no advirtió públicamente ningún riesgo que después haya contradicho — su discurso sobre IA fue siempre puramente entusiasta, nunca de alarma.

Dejó la gerencia general el 1° de enero de 2026 específicamente para dedicarse «a cómo continuaremos aplicando la inteligencia artificial para transformar nuestro negocio». La tensión real está en otro lado: Mercado Crédito (Mercado Pago) otorga préstamos basándose en datos de comportamiento de una granularidad que, en sus propias palabras, «ningún banco tiene» — qué vendés, cómo resolviste conflictos con clientes, cómo crecieron tus ventas en el tiempo. Eso se presenta como inclusión financiera para quienes el sistema bancario tradicional no atiende, lo cual es cierto — pero es inclusión financiera construida sobre un nivel de vigilancia comercial que ningún banco regulado podría ejercer legalmente sobre un cliente sin su consentimiento explícito y granular.

Esto No es hipocresía en el sentido de los demás casos. Es una entrada distinta al mismo problema: vender vigilancia como progreso, sin necesidad de decir primero lo que preocupa.

Jensen Huang (Nvidia). Durante todo 2025 y 2026 repitió, en cada presentación de resultados y en cada entrevista, que no hay burbuja de IA — la última vez en noviembre de 2025, diciendo textualmente «vemos algo muy diferente» a lo que ven los escépticos. En simultáneo, vendió acciones propias por decenas de millones de dólares bajo un plan preestablecido que contempla hasta 850 millones de dólares en ventas totales para fines de 2025; otros ejecutivos de Nvidia vendieron en conjunto más de 1.000 millones de dólares el mismo semestre. En una reunión interna con empleados, reconocida por Business Insider, admitió que la empresa estaba en una «situación en la que no se puede ganar» porque el mercado ya no valora ni sus resultados récord.

Públicamente: no hay burbuja. Puertas adentro: hasta él mismo duda de que el mercado lo siga creyendo — y vende mientras lo dice.

Larry Ellison (Oracle). No ha realizado ninguna advertencia que luego necesitó contradecir — al igual que Galperín presenta abiertamente la IA como progreso, algo que todos los demás dicen temer.

En septiembre de 2024, ante analistas financieros, describió con entusiasmo un futuro de vigilancia total con cámaras y drones autónomos impulsados por IA, donde «los ciudadanos se van a portar bien porque estamos grabando y reportando todo constantemente» y «cada policía va a estar supervisado en todo momento». Lo dijo como argumento de venta a inversionistas, no como advertencia — remató afirmando que hay «tantas oportunidades para explotar la IA». La acción de Oracle subió después de esas declaraciones.

Esta versión me resulta muy inquietante No finge preocupación que después traiciona, directamente vende el escenario que los demás dicen que quieren evitar.

Marc Andreessen (a16z). En octubre de 2023 publicó su «Manifiesto Tecno-Optimista», donde nombra explícitamente como enemigos a combatir el «riesgo existencial», la «seguridad de la IA», la «ética tecnológica» y la «gestión de riesgos» — los mismos conceptos que Amodei, Hinton o Bengio usan para justificar precaución. Sostiene que frenar el desarrollo tecnológico cuesta vidas por la innovación no realizada, casi en términos morales absolutos. Simultáneamente, a16z invierte miles de millones en empresas de IA y su modelo de negocio depende directamente de que el ritmo de desarrollo nunca se frene. No es solo optimismo: es una firma de inversión definiendo como enemigo ideológico exactamente el tipo de cautela que reduciría el valor de su propio portafolio.

Satya Nadella (Microsoft). En mayo de 2025 Microsoft despidió alrededor de 6.000 empleados, y para julio la cifra acumulada del año llegó a más de 15.000, con capas repetidas de recortes mientras Nadella insistía en llamarlas parte de la «salud organizacional» de la empresa.

En el mismo período, Microsoft anunció que gastaría un récord de 80.000 millones de dólares en 2025 en construcción de centros de datos de IA, cifra que después escaló. Los despidos afectaron directamente a equipos que trabajaban en los mismos productos de IA que la empresa presenta como su prioridad estratégica número uno.

Sundar Pichai (Google/Alphabet). Google despidió miles de puestos en 2024-2025 en simultáneo con una inversión de capital que superó los 75.000 millones de dólares en infraestructura de IA para 2025. Pichai defiende públicamente el rol de Google como guardián responsable de la información mientras su función «AI Overviews» — resúmenes generados por IA en el buscador — le quita tráfico real a los medios de noticias como este, de los que Google dice depender para entrenar y alimentar esos mismos resúmenes.

Masayoshi Son (SoftBank). Comprometió, junto con OpenAI y Oracle, hasta 500.000 millones de dólares en el proyecto de infraestructura «Stargate» anunciado con Trump en enero de 2025 — la cifra de compromiso de capital real, más allá del anuncio, sigue sin estar clara ni auditada públicamente. Es el mismo inversor cuya apuesta anterior de escala similar, WeWork, terminó en una de las mayores destrucciones de valor de la última década. La confianza que hoy pide para IA es la misma confianza que ya falló una vez, sin que haya mediado ninguna autocrítica pública sobre qué cambió en su criterio de riesgo.

Marc Benioff (Salesforce). Viene sosteniendo públicamente que sus agentes de IA (Agentforce) ya hacen una porción sustancial del trabajo que antes hacían ingenieros humanos, y usó esa lógica para frenar la contratación de nuevo personal de ingeniería y de soporte al cliente. En simultáneo, Salesforce despidió miles de puestos en 2025 mientras invertía agresivamente en la promoción comercial de Agentforce como reemplazo de esos mismos roles — presentando como innovación liberadora lo que en la práctica es la justificación estándar del reemplazo de planta.

Reid Hoffman (cofundador de LinkedIn, inversor en OpenAI e Inflection AI). Cofundó Inflection AI en 2022 con la promesa explícita de construir «IA personal segura», y escribió un libro entero sobre IA responsable. En 2024, casi toda la tecnología y el equipo de Inflection —incluido su otro cofundador, Mustafa Suleyman— terminaron absorbidos por Microsoft a través de un acuerdo de licencia de 650 millones de dólares que evitó una fusión formal y la revisión antimonopolio que eso hubiera exigido, dejando una cáscara de empresa atrás. Hoffman se sienta en el directorio de Microsoft y fue inversor temprano de OpenAI: la misma persona que predica IA responsable en su podcast está estructuralmente sentado en ambos lados de cada consolidación de poder que esa retórica dice querer evitar.

Como vemos, el hilo que conecta a los big players va más allá de la hipocresía individual de cada líder — todos, sin excepción, dijeron en público estar preocupados por el ritmo o el poder concentrado de la IA, y luego actuaron para acelerar ese mismo ritmo o esa misma concentración cuando les tocó decidir con su propio dinero.

Esto nos lleva precisamente al punto siguiente:

4. ¿Cuál es concretamente la controversia?

Todo ese enfrentamiento fue sobre quién le compra el producto, en qué términos, y quién tiene autoridad para regularlo. Nunca fue sobre bajar el ritmo de construirlo. En ningún momento de esa pelea Amodei frenó el desarrollo de modelos más capaces — la peleó mientras seguía compitiendo cabeza a cabeza con OpenAI, con la misma lógica de «si no lo hacemos nosotros, lo hace China» que usa para justificar exactamente lo que dice temer. Se plantó ante el poder político por el acceso al mercado y por su autonomía regulatoria pero No se plantó, ni una sola vez, ante su propia carrera. Por eso, tampoco es el ángel de la película.

Como vemos, el patrón que se repite en estas 4 historias no es el de un plan para reducir población — sino advertir del riesgo en público mientras la conducta privada va en la dirección contraria, con la excusa de la competencia como cobertura moral.

La trampa, entonces, no es que «la IA se les escape de las manos» como excusa para un plan de exterminio. «Está funcionando como excusa para no asumir que cada decisión (qué se construye, a quién se le vende, qué riesgo se tolera para no perder terreno frente a un competidor) la sigue tomando una persona que posee un nombre, un cargo y múltiples cuentas bancarisa.

5. La advertencia de los expertos independientes

A diferencia de los ejecutivos de empresas tecnológicas, los científicos independientes poseen una perspectiva menos condicionada por intereses comerciales. Sus advertencias se basan en evidencia técnica, teoría de control, alineación, ética computacional y análisis de sistemas complejos.

En el corazón de este artículo se presentan dos tablas comparadas. La 1ra de veinte expertos, ordenados por nivel de fatalismo, fecha de advertencia y autoridad científica. La 2da de los 10 Players Principales que administran el negocio.

El análisis del conjunto revela tres grandes corrientes:

5.1. Fatalistas estructurales (puestos 1–8)

Sostienen que la IA avanzada podría escapar del control humano, optimizar objetivos incompatibles con la vida humana o adquirir capacidades estratégicas que superen la gobernanza global. Sus advertencias se centran en la pérdida de control, la autonomía operativa y la posibilidad de daño civilizatorio.

5.2. Preocupación técnica moderada (puestos 9–14)

Reconocen riesgos significativos, pero consideran que la ingeniería de seguridad, la teoría de alineación y la regulación internacional pueden mitigar escenarios extremos. Su enfoque es técnico y pragmático.

5.3. Riesgos sociales y éticos (puestos 15–20)

Se concentran en sesgos, vigilancia, desigualdad y concentración de poder. Aunque no anticipan un colapso civilizatorio, advierten que la IA puede amplificar daños sociales y políticos de gran escala.

6. ¿Cuál es la Discusión y el rol de los políticos?

La 2da tabla revela una tensión fundamental: los expertos con mayor autoridad científica en IA (Bengio, Hinton, LeCun, Russell) no coinciden en su evaluación del riesgo existencial. Esto sugiere que la incertidumbre epistemológica es alta y que la comunidad científica carece de modelos predictivos robustos para evaluar el comportamiento de sistemas de IA de frontera.

La presencia de advertencias recientes (Coxon, Bengio, Leike) indica que el riesgo percibido está aumentando a medida que los modelos adquieren capacidades emergentes de planificación, persuasión y hacking autónomo.

Por eso a estas tablas vamos a sumar una tercera: la de políticos de alta influencia, que lideran y promueven el  desarrollo de tecnologías como la IA desde el poder y la regulación gubernamental.

A cada uno de ellos los evalué con un gradiente de confiabilidad que determiné basado en el análisis de hechos concretos y visibles inscriptos en un renglón que podríamos titular como Bioética de la Virtud.

Algunas Conclusiones

No es que la IA se les escapa. Es que nadie quiere hacerse cargo de a dónde la llevan.

1. El riesgo no es de extinción por rebelión de máquinas, es de sustentabilidad por colapso de gobernanza. La IA de frontera no necesita «volverse consciente» para ser peligrosa. Alcanza con que automatice decisiones críticas —quién es vigilado, quién accede a un crédito, qué información vemos— más rápido de lo que podemos auditarla, corregirla o regularla. Tu definición es correcta: es un riesgo de cascada sistémica, no un meteorito.

2. La trampa no es técnica, es moral: «decidió el algoritmo». Este es el hallazgo central de tu investigación. Palantir firma con ICE, Meta permite sexualización de menores en su manual interno, Amazon despide 30.000 personas el mismo trimestre que bate récords. Ninguno de esos hechos fue decidido por una IA. Fue decidido por un directorio, con nombre, apellido y plan de stock options, usando la frase «si no lo hacemos nosotros, lo hace China» como coartada. La carrera no decide. Deciden personas.

3. Todos advierten del incendio mientras venden nafta. El patrón que documentás en los 15 CEOs es idéntico:
Promesa pública de seguridad (20% de cómputo para Superalignment, IA abierta y responsable) -> Inversión real en la dirección contraria (1-2% del cómputo, clusters como Colossus, acuerdos de 2.700M para eludir antimonopolio) -> Salida o purga de quien denuncia -> El board que advirtió queda afuera.
No es hipocresía anecdótica. Es el modelo de negocio.

4. El problema económico es real y tiene solución, pero no les conviene nombrarla. Si la productividad la genera capital automatizado y no trabajo humano gravable, se rompe la base fiscal que sostiene jubilaciones, salud y Estado. No es un plan para reducir población, es una consecuencia no gestionada. Como mostrás con Chetty y los casos de Japón (1,2 hijos) y Alemania (22% >65 años), la humanidad ya envejece sin reemplazarse sin necesidad de ningún plan. La solución existe y está en debate en FMI/OCDE: gravar el capital automatizado, no el salario. Lo que falta no es una fórmula, es voluntad política.

5. Argentina y el caso Palantir: el riesgo de importar la trampa sin tener el freno. La inclusión de Palantir en estrategias fundamentales del Estado argentino nos pone en la peor combinación: importamos la infraestructura de vigilancia más potente del mundo, sin tener la capacidad institucional de auditoría, ni la ley de protección de datos, ni el contrapeso judicial que ni siquiera EE.UU. logra sostener. No es un debate tecnológico. Es un debate de soberanía y bioética de la virtud: ¿quién audita al auditor?

La IA no va a terminar con todo por ser demasiado inteligente. Va a terminar con todo si seguimos permitiendo que las decisiones más importantes sobre nuestro futuro se tomen bajo el único criterio de no perder la carrera. El riesgo no es que la máquina nos reemplace. Es que le cedamos voluntariamente la responsabilidad de decidir.

Un desarrollo del Dr. Fabián Sorrentino para quien elija ser responsable.