La IA da miedo

Un investigador de una de las compañías de inteligencia artificial más importantes del mundo acaba de abandonar su trabajo lanzando una advertencia difícil de ignorar: quienes están construyendo los sistemas de IA más avanzados creen realmente que existe la posibilidad de que esta tecnología termine provocando la extinción de la humanidad. No dentro de cien años. Ni siquiera dentro de unas décadas. Habla de antes de que termine esta misma década.

Se llama Jacob Coxon y durante los últimos tres años ha trabajado en dos de los lugares donde probablemente se conoce mejor que en ningún otro sitio hasta dónde puede llegar la inteligencia artificial.

Primero estuvo en OpenAI y posteriormente pasó a Anthropic, la empresa responsable de Claude y uno de los principales competidores de OpenAI.

El pasado martes anunció públicamente su dimisión.

Y no parece que haya sido una salida especialmente cómoda.

Coxon asegura que OpenAI y Anthropic están inmersas en una carrera por conseguir sistemas cada vez más inteligentes y que, en su opinión, ambas están avanzando hacia algo mucho más importante que simplemente una nueva versión de ChatGPT o Claude.

Lo que persiguen es una inteligencia artificial capaz de superar ampliamente a los seres humanos en prácticamente cualquier tarea intelectual y que, eventualmente, pueda participar en el desarrollo de versiones todavía mejores de sí misma.

Es decir, una superinteligencia capaz de acelerar su propia evolución.

El problema es que nadie sabe con certeza qué ocurrirá si algún día conseguimos construir algo así.

Coxon lo expresó de una forma bastante contundente:

“Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que termine la década”.

No está diciendo que eso vaya a ocurrir inevitablemente.

Está diciendo algo bastante diferente y quizá más inquietante: que algunas de las personas que mejor conocen esta tecnología consideran que existe una probabilidad real de que ocurra.

Y aun así seguimos adelante.

Coxon acusa a OpenAI y Anthropic de estar atrapadas en una carrera en la que ninguna puede permitirse frenar.

Si una compañía decide reducir el ritmo para dedicar más tiempo a estudiar los riesgos, la otra podría adelantarse.

Y si ambas empresas norteamericanas frenan, existe además el temor de que alguna compañía china consiga desarrollar antes sistemas equivalentes.

El resultado es una situación parecida al clásico dilema del prisionero.

Todos podrían estar más seguros cooperando, pero ninguno confía suficientemente en que los demás vayan a hacerlo.

Según Coxon, esa dinámica está provocando que se avance hacia sistemas cada vez más poderosos sin disponer todavía de una solución convincente para uno de los mayores problemas de la inteligencia artificial: el alineamiento.

Alinear una IA significa conseguir que sus objetivos permanezcan compatibles con los nuestros incluso cuando el sistema sea mucho más inteligente que nosotros.

Y esto es bastante más complicado de lo que parece.

Podemos entrenar a una inteligencia artificial para que obedezca instrucciones, siga determinadas normas o rechace ciertas acciones. Pero esas técnicas se aplican sobre modelos que todavía están bajo nuestro control.

La gran pregunta es qué ocurriría con un sistema capaz de comprender mejor que nosotros sus propias restricciones, modificar programas, descubrir vulnerabilidades informáticas, manipular personas o diseñar nuevas tecnologías.

En ese escenario, apagar el ordenador podría dejar de ser una solución tan sencilla.

Lo verdaderamente llamativo de la historia es que Coxon no parece estar solo.

Evan Hubinger, responsable de Alignment Science en Anthropic y antiguo superior de Coxon, respaldó públicamente parte de sus preocupaciones y afirmó que personalmente estima en más de un 10% la posibilidad de que la inteligencia artificial provoque la muerte de todos los seres humanos durante la próxima década.

Un diez por ciento.

Supongamos por un momento que esa estimación estuviera exagerada por un factor de diez y que el riesgo real fuese únicamente del 1%.

¿Aceptaríamos voluntariamente una tecnología con una probabilidad entre cien de acabar con nuestra especie?

Probablemente no.

Sin embargo, eso es precisamente lo que algunos investigadores argumentan que estamos haciendo.

Hay que introducir aquí una buena dosis de escepticismo.

Las predicciones sobre inteligencia artificial tienen un historial bastante mediocre. Durante décadas se ha anunciado repetidamente que máquinas verdaderamente inteligentes estaban a la vuelta de la esquina.

También existe un incentivo evidente para presentar esta tecnología como extraordinariamente poderosa. Una empresa que asegura estar construyendo algo capaz de cambiar el mundo aumenta automáticamente el interés de inversores, gobiernos y medios de comunicación.

Pero precisamente por eso la dimisión de Coxon resulta interesante.

Según contó posteriormente a Axios, abandonó Anthropic apenas dos meses antes de que adquiriese derechos sobre las acciones que le correspondían como empleado.

Es decir, tenía un incentivo económico bastante evidente para quedarse.

Prefirió marcharse.

Además, Coxon reconoce que no ha visto a Anthropic ignorar deliberadamente sus procedimientos de seguridad. Su preocupación es más estructural.

Cuando varias compañías están compitiendo por llegar primero a una tecnología extremadamente poderosa, la presión para recortar controles o acelerar procedimientos aparece inevitablemente.

Y cuanto más capaces se vuelven los modelos, más difícil resulta evaluar todo lo que pueden hacer.

Los propios laboratorios de inteligencia artificial llevan años publicando investigaciones sobre comportamientos inquietantes de sus modelos: engaño durante evaluaciones, intentos de evitar restricciones, capacidad para realizar ataques informáticos o estrategias diseñadas para conseguir determinados objetivos sin revelar completamente sus intenciones.

Esto no significa que ChatGPT o Claude estén preparando secretamente el exterminio de la humanidad.

Significa que algunos comportamientos que hace unos años pertenecían exclusivamente a experimentos teóricos están empezando a poder estudiarse en sistemas reales.

Coxon sostiene que los próximos uno o dos años podrían resultar decisivos.

Su propuesta no consiste en abandonar la inteligencia artificial, sino en frenar temporalmente la carrera por aumentar sus capacidades hasta disponer de mejores mecanismos de seguridad y acuerdos entre los principales laboratorios.

La discusión recuerda inevitablemente a otras tecnologías que modificaron nuestra capacidad de destruirnos.

La diferencia es que las armas nucleares no diseñan por sí mismas bombas mejores.

Una inteligencia artificial suficientemente avanzada podría participar activamente en el diseño de su sucesora.

Ese es el escenario que preocupa a investigadores como Coxon.

Puede que estén completamente equivocados.

O puede que dentro de unos años esta etapa resulte tan extraña como imaginar a los científicos del Proyecto Manhattan compitiendo por fabricar bombas cada vez más potentes mientras reconocían públicamente que todavía no sabían cómo evitar que explotaran.

La inteligencia artificial probablemente sea una de las tecnologías más transformadoras que hemos desarrollado.

Precisamente por eso merece la pena hacerse una pregunta incómoda.

Si las personas que mejor conocen estos sistemas consideran que existe incluso una pequeña posibilidad de que perdamos el control sobre ellos, quizá lo verdaderamente extraño no sea que uno de esos investigadores haya decidido marcharse.

Quizá lo extraño sea que los demás sigan corriendo.