Miguel Toro
El
9 de septiembre, Jacob Coxon, un investigador de 27 años que había pasado tres
años haciendo preentrenamiento de modelos, primero en OpenAI y luego en
Anthropic, anunció su dimisión. Acusó a ambas compañías de correr hacia una
superinteligencia capaz de automejorarse y de «jugar con nuestras vidas»
construyendo una tecnología que podría acabar con todos nosotros antes de que
termine la década.
El
debate sobre el apocalipsis algorítmico había empezado. La responsable de alineación
en Anthropic, salió a respaldarlo. El 12 de septiembre, tres días después de la
dimisión de Coxon, el propio Dario Amodei pidió frenar el desarrollo de la IA y
recibió el respaldo, poco habitual, de Sam Altman y Elon Musk. Dos semanas
después, Bill Gates se unió al coro de la tragedia: la IA puede matar a mil
millones de personas.
En
este contexto se usa el término la alineación. Esto significa que la
propia IA deberá internalizar los valores humanos de forma autónoma y actuar en
consecuencia. Sin embargo, este campo de investigación aún se encuentra en sus
primeras etapas y muy lejos de resolverse.
Ahora
tenemos que preguntarnos: ¿Las repentinas profecías sobre la IA destructora de
mundos han sido sincronizadas? ¿Quién se beneficia de ese catastrofismo?
Cuando nacen nuevas tecnologías aparecen amenazas catastróficas del fin del
mundo y nuevos profetas. Ahora tenemos nuevos tecnoprofetas. Existe un viejo negocio del apocalipsis que
ya hemos visto en el pasado. Ya ocurrió a mediados del siglo XIX, y varias
veces en el XX.
Para
vender una catástrofe hay que hacerla creíble; pero una catástrofe que se
cumple del todo no deja clientes. El fin del mundo, como negocio, necesita que
la amenaza permanezca siempre a un paso de cumplirse: nunca demasiado cerca,
nunca del todo lejos.
El
fin del mundo es una mercancía inofensiva. Sin embargo imaginar otra forma de organizar
la economía no lo es. “Es más fácil imaginar el fin del mundo que el fin del
capitalismo”. La última oleada de advertencias apocalípticas de Sam Altman,
Dario Amodei y Elon Musk sobre el riesgo de extinción llegó justo cuando sus
empresas se preparaban para salidas a bolsa multimillonarias, y mientras crecía
la presión regulatoria sobre los daños ya existentes —y ya medibles— de sus
productos: consumo energético, vigilancia, precarización laboral o
polarización. Hablar del fin del mundo futuro es una forma extraordinariamente
conveniente de no hablar de los daños presentes.
El
miedo se está usando como argumento comercial. El primer argumento para captar
dinero es que esta tecnología es más peligrosa que las armas nucleares. Si lo
que fabricas es tan poderoso que podría borrar a la especie, lo que fabricas
justifica cualquier ronda de inversión.
En
1939, Einstein firmó una carta advirtiendo de que una reacción nuclear en
cadena podía servir para fabricar un arma de poder inédito. Varios de los
científicos que habían hecho posible la bomba fundaron entonces el Bulletin
of the Atomic Scientists para advertir contra ella, y en 1947 nació el
Reloj del Apocalipsis. Los físicos de 1945 advertían contra un arma que iban a
controlar los Estados. Los tecnoprofetas de 2026 advierten contra un producto
que venden empresas privadas, algunas de ellas a punto de salir a bolsa. Muchos
expertos opinan que las advertencias de extinción funcionan, en la práctica,
como publicidad: solo un puñado de empresas dice poseer una tecnología lo
bastante potente como para acabar con la humanidad, que es también la forma más
eficaz de venderla.
El
10 de septiembre, un día después de la dimisión de Coxon, la propia Anthropic
publicó su informe trimestral de amenazas, que documenta usos indebidos reales
de sus modelos; laboratorios chinos accediendo a Claude; campañas de vigilancia
y fraude y, en algunos casos, tareas relacionadas con armamento. Ninguno
de esos episodios involucra a una máquina que decide, por su cuenta, hacer
daño. Todos son personas usando una herramienta para cometer delitos que ya
existían, a una velocidad y una escala que antes no tenían a su alcance y unos
objetivos para los algoritmos fijados por empresas privadas. Objetivos que no
se comparten en una sociedad democrática y quedan en una total la opacidad.
A
comienzos de 2025, Sam Altman anunciaba que ese mismo año veríamos a los
primeros algoritmos de IA cambiar el mercado laboral. El mundo sigue
funcionando con relativa normalidad. La transformación económica prometida no
ha llegado. La que sí ha llegado es la valoración: OpenAI vale ya 852.000
millones de dólares y avanza hacia lo que podría ser una de las mayores salidas
a bolsa de la historia.
En
2015, Sam Altman escribió que la inteligencia sobrehumana era la mayor amenaza
para nuestra especie. En 2026 dice que está cerca y que no podemos permitirnos
detenerla. Entre una frase y otra caben once años, una valoración de casi un
billón de dólares y una idea que nunca ha cambiado: el peligro existe, y la
persona más indicada para gestionarlo es, casualmente, él. Altman imagina una concentración
de riqueza tan descomunal que obligaría a reescribir el contrato social: menos
trabajo, más tiempo para la familia y las aficiones, máquinas ocupándose de la
parte intelectual del esfuerzo. Es una utopía amable, con un detalle que rara
vez se menciona: ¿quién controla esa riqueza?. El producto que nos quiere
vender: una IA que conoce tus correos, tu calendario, tus documentos y tus
contactos, y que actúa sin esperar a que se lo pidas. El asistente que lo sabe
todo de ti será, inevitablemente, un negocio basado en saberlo todo de ti.
Diversos
analistas y críticos señalan que el discurso de Altman sobre la imposibilidad
de contener a la IA beneficia directamente a su propia empresa. Presentar a la
IA como un ente demasiado potente para ser controlado podría ser una estrategia
para adelantarse a futuras exigencias de responsabilidad legal: si ni siquiera
la empresa creadora puede controlar su propia tecnología, resulta mucho más
difícil culparla cuando los sistemas fallen o causen daños. Será más difícil
hacerlo responsable a él y a su empresa de los daños ocasionados.
Resulta
evidente que los modelos actuales actúan de formas que no están alineadas
con los objetivos humanos, cabe preguntarse: ¿Qué humanos? ¿Los objetivos de
quién? Al fin y al cabo, los intereses de los líderes del sector de la IA difieren
considerablemente de los objetivos de los trabajadores, por no hablar de los
habitantes del mundo.
La
carrera por lograr una inteligencia artificial general, combinada con métricas
defectuosas para ajustar los modelos y decisiones precipitadas en materia de
seguridad, es lo que está generando una inteligencia no alineada y
modelos cada vez más peligrosos. Aún hay tiempo para cambiar de rumbo.
