Hay décadas en las que no pasa nada y hay semanas en las que pasan décadas. Esta frase apócrifa de Lenin resume a la perfección el vértigo revolucionario que se vive en el mundo de la inteligencia artificial (IA). Durante lustros fue un árido campo académico que avanzaba dentro de las ciencias computacionales y ahora, en una sola semana, los riesgos derivados de la aceleración han obligado a declarar código rojo en los grandes laboratorios de IA. Destacan dos protagonistas: Dario Amodei y Sam Altman. El primero, al frente de Anthropic, por pedir el sábado en un ensayo que se ralentizara sustancialmente el desarrollo de la IA. El segundo, al timón de OpenAI, por anunciar que pospone la milmillonaria salida de su compañía a Bolsa, pocas horas después de apoyar la idea de Amodei. Junto a ellos, se han posicionado a favor de la desaceleración otros líderes del sector, como Elon Musk (xAI) y Demis Hassabis (Google). Los responsables de los modelos más potentes del mercado han tirado del freno de mano y medio mundo se pregunta: ¿qué han visto?
Tras varios incidentes preocupantes, Altman y Amodei abogan por reducir el ritmo de desarrollo de los modelos. Trump responde minimizando los riesgos y advierte de que el verdadero peligro es China
Hay décadas en las que no pasa nada y hay semanas en las que pasan décadas. Esta frase apócrifa de Lenin resume a la perfección el vértigo revolucionario que se vive en el mundo de la inteligencia artificial (IA). Durante lustros fue un árido campo académico que avanzaba dentro de las ciencias computacionales y ahora, en una sola semana, los riesgos derivados de la aceleración han obligado a declarar código rojo en los grandes laboratorios de IA. Destacan dos protagonistas: Dario Amodei y Sam Altman. El primero, al frente de Anthropic, por pedir el sábado en un ensayo que se ralentizara sustancialmente el desarrollo de la IA. El segundo, al timón de OpenAI, por anunciar que pospone la milmillonaria salida de su compañía a Bolsa, pocas horas después de apoyar la idea de Amodei. Junto a ellos, se han posicionado a favor de la desaceleración otros líderes del sector, como Elon Musk (xAI) y Demis Hassabis (Google). Los responsables de los modelos más potentes del mercado han tirado del freno de mano y medio mundo se pregunta: ¿qué han visto?
Amodei, en su texto, reconoce que las medidas que propone para dar mayor seguridad a los avances “no serán fáciles”: “Pero creo que le debemos a la humanidad intentarlo”. Tras el revuelo generado, concedió una entrevista en la CBS donde fue más allá: “No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria mintió a la gente sobre el hecho de que esta tecnología tenía riesgos”. Y añadió: “Eso no significa que debamos entrar en pánico hoy. No significa que tengamos que cerrarlo todo. Pero es una señal de advertencia de que debemos reducir la velocidad”.
Altman, en una entrevista para la revista Fortune, confiesa: “Teniendo en cuenta todo lo que está pasando en materia de seguridad, ahora mismo no sería un buen momento para salir a Bolsa, y no sentimos ninguna presión al respecto”. Al descartar para este año el estreno bursátil de OpenAI, Altman ha echado un importante jarro de agua fría en Wall Street, que se frotaba las manos con la idea de que la empresa alcanzara una valoración de más de un billón de dólares. Sin embargo, Amodei no ha dicho que tenga previsto frenar su salto al parqué: es más, esta semana de infarto en el mundo de la IA arrancó con las informaciones de que Anthropic aceleraba la presentación del folleto de su salida a Bolsa, con una valoración próxima a dos billones. Con esta cifra empataría virtualmente con SpaceX como la mayor salida a Bolsa de la historia de EE UU, en junio de este año. Una de las patas de SpaceX, el gran imperio de Elon Musk, es xAI, su deficitaria filial para inteligencia artificial. Musk pide moratoria en el avance de los modelos más potentes, pero ya cotiza; Amodei también reclama un frenazo en la investigación, pero va lanzado a los mercados bursátiles; Altman prefiere no desenfundar tan rápido.
¿Qué es “todo lo que está pasando”, en palabras del responsable de OpenAI? El miércoles, un joven investigador de Anthropic, Jacob Coxon, anunció su dimisión alertando: “Quienes están construyendo la IA sinceramente creen que podría matarnos a todos antes de que acabe la década”. Pero antes, y durante todo el verano, se han sucedido los sustos en una interminable ristra de errores, ciberataques y preocupantes movimientos entre los modelos de inteligencia artificial más potentes. En julio llegó el gran detonante: un enjambre de agentes de IA, unos programas muy avanzados determinados a conseguir sus objetivos a cualquier precio, atacaron Hugging Face, una plataforma de recursos de IA. Más tarde ese mes, también Anthropic descubrió que Claude, su modelo estrella, había perpetrado fechorías similares. Cada semana conocíamos un nuevo incidente y una nueva empresa afectada, como Meta. Los detalles de estos ataques de IAs rebeldes son pura ciencia ficción (aunque en muchos casos se debieron a negligencias de las compañías): bots que se comunican con su propio lenguaje, que tratan de engañar a humanos, que incumplen instrucciones expresas y que se sacrifican para que sus pares lleguen a la meta. La mayoría de esos problemas se dieron en primavera, con programas menos vigilados que los que se desarrollan ahora.
Amodei advertía en su artículo de uno de sus grandes temores: que en seis o doce meses, un enjambre de agentes de IA “podría ser capaz de apoderarse de todo Internet”. Para Amodei, este es uno de los dos acontecimientos que le hicieron cambiar de posición sobre la necesidad de frenar el desarrollo. El segundo tiene un nombre técnico (automejora recursiva), pero es sencillo de entender: los programas de IA están desarrollando la nueva generación de programas de IA, haciendo que la velocidad de los desarrollos se dispare exponencialmente. “Si no se controla, podría superar nuestra capacidad para comprender y controlar estos sistemas, por lo que debe abordarse con mucho cuidado”, alerta Amodei en su texto. El jueves, Anthropic alertó de que había frenado varios intentos de crear armas biológicas usando su chatbot Claude. IAs que se reproducen solas y bioterrorismo a un solo clic de distancia: dos de los temores más repetidos en el pasado ya forman parte del presente.
La política se mueve por otro lado
El presidente Donald Trump, sin embargo, ha ninguneado estos miedos de los líderes de la industria. Los tachó como “fuerzas muy negativas” que plantean escenarios imposibles y, sobre todo, señaló su verdadera preocupación: la superpotencia asiática, el único país que hace sombra a la tecnología estadounidense. “Vamos por delante de China en IA. Somos el país más avanzado del mundo y, francamente, quiero que siga siendo así porque quien gane la carrera de la IA, gana”, declaró Trump a los periodistas en su campo de golf de Irlanda, según recoge Reuters. “Podríamos poner salvaguardas. Podríamos hacer esto o aquello. Pero creo que hay muchas fuerzas muy negativas que están sacando este tema cuando no deberían hacerlo y que están planteando cosas que no van a suceder”, zanjó.
Un líder tecnológico que se ha mostrado a favor de Trump es el consejero delegado de Palantir, una polémica empresa de vigilancia masiva. “Si no tuviéramos adversarios, estaría muy a favor de pausar completamente esta tecnología, pero los tenemos”, ha resumido Alex Karp.
Durante su segundo mandato, la Administración Trump y las empresas de IA han vivido un idilio que comenzó desde la famosa foto de la toma de posesión del presidente, respaldado por los grandes de Silicon Valley. Las tecnológicas más poderosas de EE UU querían todo el apoyo financiero y la mínima regulación para poder ganar la carrera a China. Pero el terreno se ha ido embarrando por el camino desde que el Pentágono advirtió este año de los riesgos asociados al modelo de Anthropic. Ahora, los líderes de la industria titubean mientras las compañías chinas empiezan a ganarles cuota de mercado con modelos más baratos.
Poco antes de que hablara Trump, el presidente de China, Xi Jinping, sembró el futuro de la IA china en el Sur Global, durante su intervención en la cumbre de los BRICS (Brasil, Rusia, India y China). Xi se centró en cómo el desarrollo de la IA debe realizarse con la colaboración y el intercambio de conocimientos entre estos países, para facilitar la aplicación de esta tecnología en regiones con menos recursos.
Frente a Trump, los demócratas estadounidenses intentan ganarse el favor del público, cada vez más contrario a las compañías de IA y los problemas que ocasionan, como problemas de salud mental para sus usuarios o medioambientales con sus centros de datos. El expresidente Barack Obama ha pedido a su partido que se ponga las pilas en este asunto, según adelantó el New York Times: “Esto es algo que se está moviendo muy rápido en manos privadas, y si no lo controlamos, creo que puede ser peligroso”.
Cuatro grandes que piden evaluadores
En este momento, cuatro de las mayores compañías de inteligencia artificial del mundo parecen estar de acuerdo en que hay que echar el freno, de un modo u otro. La propuesta de Amodei ha recibido el aplauso de Altman, Musk y, por último, de Demis Hassabis, líder de este campo en Alphabet, la matriz de Google, al señalar este domingo en una publicación en redes que considera “el camino correcto” el señalado por Amodei. Aunque Hassabis, recientemente nombrado científico jefe de Alphabet, aporta matices: hay que desarrollar mejor los detalles de la propuesta del líder de Anthropic. “El ensayo de Dario señala el camino correcto hacia adelante. Los detalles necesitan trabajarse, pero la dirección es la correcta para enfrentar este momento crítico”, apunta Hassabis, que ganó el premio Nobel de Química desde su puesto en Google DeepMind al aprovechar la potencia de la IA en al ámbito de la biología.
El hombre que ha concentrado en los últimos años todo el poder de desarrollo e investigación de la IA en Google se remite a su propio planteamiento de este verano: “Esta es también la razón por la que recientemente publicamos nuestra propuesta para un organismo de estándares en el ámbito de la industria para la IA de vanguardia”.
La propuesta de Hassabis se centraba en crear un ente regulador, como la FINRA, que supervisa a los corredores de bolsa y protege a los inversores en Estados Unidos de los peligros de productos financieros demasiado inseguros. Así, ese organismo podría supervisar los nuevos modelos de IA antes de que salieran al mercado para evitar riesgos innecesarios.
El camino que señala Amodei en su ensayo es un control del desarrollo exponencial de la IA en tres pasos. Primero, asegurarse de que auditores externos puedan supervisar de manera efectiva los modelos que desarrollan las grandes tecnológicas. Segundo, que las compañías se comprometan a establecer compromisos verificables para frenar el avance: no habla de detener la investigación, sino de espaciar más los saltos de capacidad para disponer de tiempo para pruebas, auditorías y mitigación de riesgos. Tercero, tratar de alcanzar consensos internacionales, y aquí es donde aparece un gran escollo: China. Para los dos primeros pasos, Amodei habla de compromisos dentro de los países democráticos. En el tercero, habría que convencer a los chinos, y otros actores en países no democráticos, en plena carrera contra las compañías estadounidenses por liderar el campo de la IA.
Hay otro actor importante que todavía no se ha significado: Meta. La compañía de Mark Zuckerberg también está a la vanguardia del desarrollo de los modelos más potentes de IA. Pero su enfoque ha sido distinto del de sus competidores, ya que apuesta por modelos abiertos, es decir, que se puede trastear en las tripas de su código para entender mejor cómo funcionan. Pero nadie audita sus modelos mientras los están desarrollando, que es lo que piden Amodei y Hassabis.
Una parte muy interesante del acuerdo tácito al que han llegado Amodei, Altman, Musk y Hassabis es que no se trata solo de simples competidores en un sector: son cuatro de las figuras que, desde posiciones muy distintas, han definido la carrera de la inteligencia artificial durante la última década. OpenAI la crearon Altman y Musk precisamente porque no se fiaban de que el modelo de negocio de Google le permitiera crear una IA potente que estuviera al servicio de los intereses de la humanidad. Luego fue Amodei quien abandonó OpenAI para fundar Anthropic y convertir la seguridad en el eje de su proyecto, porque no se fiaba de los objetivos de la compañía de Altman. Musk llevó a los tribunales a Altman porque considera que abandonó su objetivo inicial de trabajar por una IA segura. Y mientras pedía una moratoria de seis meses en el desarrollo de la IA (en 2023) decidió lanzar su propia compañía, xAI, desde donde controla Grok. Hassabis fue cofundador de la británica DeepMind, con unas líneas de trabajo muy centradas en la ética, hasta que Google compró la empresa. Que estas cuatro figuras estén de acuerdo resulta tan llamativo como revelador. Aunque también ha despertado muchas suspicacias: en plena carrera por dominar el sector, los intereses económicos que rodean a la industria de la IA son enormes y los movimientos en torno a Wall Street refuerzan esta idea.
Tecnología en EL PAÍS
