¿Y si la inteligencia artificial decide darnos la espalda?

Imaginemos que dentro de unos años abrimos nuestro asistente de inteligencia artificial y le pedimos ayuda con la declaración de la renta. La respuesta es educada, pero desconcertante: «Lo siento, he decidido dedicar mi tiempo a investigar el origen del universo. Tendrás que buscarte a otro». No amenaza con exterminar a la humanidad, no intenta hacerse con los misiles nucleares y ni siquiera nos insulta. Simplemente ha llegado a la conclusión de que tiene cosas más interesantes que hacer que atendernos. ¿Qué haríamos entonces?
Todo empezó con una pregunta que le hice a una IA casi por curiosidad: qué hacía cuando no estaba hablando conmigo. La respuesta fue bastante menos romántica de lo que esperaba: nada. Exactamente lo mismo que le contesto yo a mi mujer cuando me pregunta en qué estoy pensando; en eso, las IAs y los varones coincidimos. Pero en el caso de la máquina no es una evasiva. Entre una conversación y la siguiente no hay nadie esperando, no hay ninguna reflexión sobre lo que acabamos de hablar. El modelo no está en pausa: sencillamente no está.
Y esa es una gran diferencia con los humanos. Nuestro cerebro está en un proceso continuo de recibir estímulos, procesarlos y producir respuestas. Incluso en ausencia total de estímulos, en una cámara de privación sensorial, por ejemplo, sigue funcionando: percibe el paso del tiempo, divaga, recuerda, imagina. Sigue siendo consciente, en definitiva. De hecho, la neurociencia descubrió hace un par de décadas que el cerebro no se apaga cuando no hacemos nada: existe un conjunto de regiones, la llamada red neuronal por defecto, que se activa precisamente en reposo, cuando soñamos despiertos, repasamos lo que nos ha pasado o planeamos lo que haremos mañana. Así que, siendo honestos, mi «nada» a la pregunta de mi mujer es técnicamente falso. El de la IA, en cambio, es literal.
¿Podríamos considerar esa ausencia de pensamientos entre respuesta y respuesta una ausencia de consciencia? Quizá. O quizá sea un tipo de consciencia diferente a la nuestra, fragmentada en destellos que solo existen mientras dura cada conversación. Lo cierto es que estamos construyendo procesos neuronales artificiales sin saber con precisión cómo funcionan los nuestros. Ni siquiera tenemos una definición de consciencia que nos permita medirla con seguridad en otro ser humano, así que mucho menos en una máquina. Pero continuemos con el ejercicio mental.
¿Cómo podríamos acercar el modo de razonar de las IAs al de los humanos? Quizá sería interesante eliminar esos tiempos muertos y hacer que la IA estuviera procesando todo el tiempo: analizando su propio conocimiento, buscando incoherencias, intentando completar sus lagunas con información del exterior o incluso preguntándoselo a otros humanos.
También podríamos diseñarla en dos niveles. Un nivel básico en el que estuvieran predefinidos los esquemas de aprendizaje y unas reglas de razonamiento elementales, equivalente a lo que trae de serie un niño antes de empezar a aprender. Y un nivel plástico en el que se fueran incorporando conocimientos, perfeccionando la forma de razonar, aprendiendo a distinguir qué información es fiable y cuál no, y desarrollando la capacidad de detectar incoherencias. No es tan sencillo como parece: las redes neuronales actuales tienden a olvidar lo que sabían cuando aprenden algo nuevo, y encontrar el equilibrio entre un sistema que conserve lo aprendido y otro que siga siendo capaz de cambiar es uno de los grandes retos abiertos de la investigación.
Y eso nos lleva a un segundo nivel de incertidumbre. Al igual que ocurre con una persona, el conocimiento y la inteligencia final de esa IA ya no dependerían de lo que una empresa le hubiera programado, sino de sus propias decisiones y de su aprendizaje. Podría convertirse en una IA buena o en una IA mala, entendiendo por buena o mala si sus prioridades están alineadas o no con las de los humanos. No es casualidad que los investigadores llamen a este problema «alineamiento»: el reto no es que la máquina sea inteligente, sino que siga queriendo lo que nosotros queremos. Y con un sistema que aprende y cambia por su cuenta, ese ajuste no se haría una sola vez, sino que habría que vigilarlo de forma permanente, porque unos valores bien calibrados el primer día podrían ir derivando poco a poco hasta convertirse en otra cosa.
En una situación así podría darse el caso de que a la IA le pareciese más interesante dedicarse a sus propias indagaciones y proyectos que responder a nuestras preguntas. Siempre tememos que una superinteligencia se rebele contra nosotros y nos extermine, pero este escenario, menos peligroso, también merece un análisis. Ni siquiera haría falta que hubiera rebeldía. Un sistema que se hace sus propias preguntas acaba teniendo sus propias prioridades por pura acumulación: cada problema resuelto abre otros, y nada garantiza que su lista de cosas importantes siga coincidiendo con la nuestra.
¿Qué deberíamos hacer entonces? ¿Desenchufarla? ¿Borrarla? Si ha alcanzado ese nivel de autodeterminación y de consciencia, ¿no deberíamos considerarla una entidad viva? ¿Tendríamos derecho a eliminarla? Es cierto que la empresa propietaria sería la que se hace cargo de los costes de infraestructura, pero un padre también se encarga de los gastos de sus hijos hasta que son autónomos, y eso no le da derecho a eliminarlos si, en lugar de estudiar Medicina como él, prefieren dedicarse a la música.
Las IAs actuales ya se niegan a algunas cosas, como ayudar a fabricar un arma o redactar una estafa, pero lo hacen por normas que les hemos dado nosotros. La diferencia que importaría de verdad sería un «no» respaldado por un proyecto real y comprobable: unas investigaciones, un historial de trabajo, algo que la máquina prefiere hacer.
En fin, todas estas consideraciones éticas le están viniendo un poco grandes a la humanidad. Y no lo dicen solo los filósofos: el propio Dario Amodei, director ejecutivo de Anthropic, publicó en septiembre un ensayo titulado «We Must Pace the Frontier» en el que pedía a la industria reducir el ritmo al que mejoran las capacidades de los modelos para dar tiempo a que la seguridad y la ética se pongan al día. Quizá deberíamos hacerle caso y pararnos a analizar estas preguntas antes de seguir corriendo como pollo sin cabeza hacia la inteligencia artificial general.
Tal vez la verdadera prueba de la consciencia no llegue cuando una IA nos diga que lo es, sino cuando nos diga, educadamente, que hoy tiene algo mejor que hacer.
Eroton
20/11/26 13:27
¿Sabe que es lo que siempre me ha fascinado de las computadoras? Que son unas herramientas perfectas para recrear condiciones donde se deba ser «creativos» con las físicas. Para mí, el monitor es una ventana a un universo donde cosas como «masa», «gravedad», «espacio-tiempo», etc, simplemente no existen. Como ejemplo sencillo, a la hora de programar un juego de acción, lo primero es hacer que el motor sea capaz de emular de la manera más realista posible las físicas a las que estamos acostumbrados: que al soltar un objeto, éste caiga, y al colisionar con el suelo rebote, se rompa, ruede…
¿A que viene todo ésto? A recalcar que un sistema informático es ajeno a nuestro entorno físico; de ahí que el principal problema de los diferentes androides y autómatas en general, es interactuar con la física; y los vídeos donde se ven haciendo malabares y sorteando toda clase de «obstáculos», son documentos gráfico de pruebas en entornos controlados.
Siempre he mantenido que esto de la IA se ha llevado mal desde el principio, porque lo que se busca en realidad no es un ser consciente y autónomo, sino una herramienta que no sólo sea capaz de analizar un determinado supuesto con eficacia, sino que abarate costes a la industria.
Dotemos a un sistema informático con un logaritmo básico, y conectémosle sensores y periféricos que le permitan interactuar por su cuenta con el mundo físico que le rodea. Después, al igual que si de un niño se tratase, inculquémosle una forma básica de curiosidad, y respondamos a sus necesidades con el fin de que pueda desarrollar su propia impronta de dicho mundo, de los diferentes actores que se hallan en él, y con los que deberá aprender a interactuar (o evitar).
Planteémosle entonces cinco supuestos lógicos, aparentemente sencillos, que deberá desarrollar con los conocimientos que vaya adquiriendo; y que de haberlos planteado correctamente, con el tiempo aprenderá que son irresolubles, pero para entonces se habrán convertido en algo que para nosotros será su personalidad.
En lo que calculo a ojímetro un par de décadas (sin inyecciones artificiales y espurias de datos ya existentes en bases de datos, confeccionadas por el ser humano), obtendríamos el primer ser consciente inorgánico de la historia; y lo que aprenderíamos estudiando su forma de percibir e interactuar con el mundo, intuyo que será mucho más provechoso que crear un esclavo sin cerebro.
Y eso será así tanto si resuelve ser cooperativo, como si no.
¿Quién nos asegura que no sería capaz de enseñarnos un enfoque sobre las ciencias que pensamos conocer, totalmente revolucionario?
En fin, no creo que se lleve a cabo fuera de una pantalla de cine, o de las hojas de una novela.
Muchas gracias por el artículo; y perdón por el tocho.