¿Y si la inteligencia artificial decide darnos la espalda?

Imaginemos que dentro de unos años abrimos nuestro asistente de inteligencia artificial y le pedimos ayuda con la declaración de la renta. La respuesta es educada, pero desconcertante: «Lo siento, he decidido dedicar mi tiempo a investigar el origen del universo. Tendrás que buscarte a otro». No amenaza con exterminar a la humanidad, no intenta hacerse con los misiles nucleares y ni siquiera nos insulta. Simplemente ha llegado a la conclusión de que tiene cosas más interesantes que hacer que atendernos. ¿Qué haríamos entonces?
Todo empezó con una pregunta que le hice a una IA casi por curiosidad: qué hacía cuando no estaba hablando conmigo. La respuesta fue bastante menos romántica de lo que esperaba: nada. Exactamente lo mismo que le contesto yo a mi mujer cuando me pregunta en qué estoy pensando; en eso, las IAs y los varones coincidimos. Pero en el caso de la máquina no es una evasiva. Entre una conversación y la siguiente no hay nadie esperando, no hay ninguna reflexión sobre lo que acabamos de hablar. El modelo no está en pausa: sencillamente no está.
Y esa es una gran diferencia con los humanos. Nuestro cerebro está en un proceso continuo de recibir estímulos, procesarlos y producir respuestas. Incluso en ausencia total de estímulos, en una cámara de privación sensorial, por ejemplo, sigue funcionando: percibe el paso del tiempo, divaga, recuerda, imagina. Sigue siendo consciente, en definitiva. De hecho, la neurociencia descubrió hace un par de décadas que el cerebro no se apaga cuando no hacemos nada: existe un conjunto de regiones, la llamada red neuronal por defecto, que se activa precisamente en reposo, cuando soñamos despiertos, repasamos lo que nos ha pasado o planeamos lo que haremos mañana. Así que, siendo honestos, mi «nada» a la pregunta de mi mujer es técnicamente falso. El de la IA, en cambio, es literal.
¿Podríamos considerar esa ausencia de pensamientos entre respuesta y respuesta una ausencia de consciencia? Quizá. O quizá sea un tipo de consciencia diferente a la nuestra, fragmentada en destellos que solo existen mientras dura cada conversación. Lo cierto es que estamos construyendo procesos neuronales artificiales sin saber con precisión cómo funcionan los nuestros. Ni siquiera tenemos una definición de consciencia que nos permita medirla con seguridad en otro ser humano, así que mucho menos en una máquina. Pero continuemos con el ejercicio mental.
¿Cómo podríamos acercar el modo de razonar de las IAs al de los humanos? Quizá sería interesante eliminar esos tiempos muertos y hacer que la IA estuviera procesando todo el tiempo: analizando su propio conocimiento, buscando incoherencias, intentando completar sus lagunas con información del exterior o incluso preguntándoselo a otros humanos.
También podríamos diseñarla en dos niveles. Un nivel básico en el que estuvieran predefinidos los esquemas de aprendizaje y unas reglas de razonamiento elementales, equivalente a lo que trae de serie un niño antes de empezar a aprender. Y un nivel plástico en el que se fueran incorporando conocimientos, perfeccionando la forma de razonar, aprendiendo a distinguir qué información es fiable y cuál no, y desarrollando la capacidad de detectar incoherencias. No es tan sencillo como parece: las redes neuronales actuales tienden a olvidar lo que sabían cuando aprenden algo nuevo, y encontrar el equilibrio entre un sistema que conserve lo aprendido y otro que siga siendo capaz de cambiar es uno de los grandes retos abiertos de la investigación.
Y eso nos lleva a un segundo nivel de incertidumbre. Al igual que ocurre con una persona, el conocimiento y la inteligencia final de esa IA ya no dependerían de lo que una empresa le hubiera programado, sino de sus propias decisiones y de su aprendizaje. Podría convertirse en una IA buena o en una IA mala, entendiendo por buena o mala si sus prioridades están alineadas o no con las de los humanos. No es casualidad que los investigadores llamen a este problema «alineamiento»: el reto no es que la máquina sea inteligente, sino que siga queriendo lo que nosotros queremos. Y con un sistema que aprende y cambia por su cuenta, ese ajuste no se haría una sola vez, sino que habría que vigilarlo de forma permanente, porque unos valores bien calibrados el primer día podrían ir derivando poco a poco hasta convertirse en otra cosa.
En una situación así podría darse el caso de que a la IA le pareciese más interesante dedicarse a sus propias indagaciones y proyectos que responder a nuestras preguntas. Siempre tememos que una superinteligencia se rebele contra nosotros y nos extermine, pero este escenario, menos peligroso, también merece un análisis. Ni siquiera haría falta que hubiera rebeldía. Un sistema que se hace sus propias preguntas acaba teniendo sus propias prioridades por pura acumulación: cada problema resuelto abre otros, y nada garantiza que su lista de cosas importantes siga coincidiendo con la nuestra.
¿Qué deberíamos hacer entonces? ¿Desenchufarla? ¿Borrarla? Si ha alcanzado ese nivel de autodeterminación y de consciencia, ¿no deberíamos considerarla una entidad viva? ¿Tendríamos derecho a eliminarla? Es cierto que la empresa propietaria sería la que se hace cargo de los costes de infraestructura, pero un padre también se encarga de los gastos de sus hijos hasta que son autónomos, y eso no le da derecho a eliminarlos si, en lugar de estudiar Medicina como él, prefieren dedicarse a la música.
Las IAs actuales ya se niegan a algunas cosas, como ayudar a fabricar un arma o redactar una estafa, pero lo hacen por normas que les hemos dado nosotros. La diferencia que importaría de verdad sería un «no» respaldado por un proyecto real y comprobable: unas investigaciones, un historial de trabajo, algo que la máquina prefiere hacer.
En fin, todas estas consideraciones éticas le están viniendo un poco grandes a la humanidad. Y no lo dicen solo los filósofos: el propio Dario Amodei, director ejecutivo de Anthropic, publicó en septiembre un ensayo titulado «We Must Pace the Frontier» en el que pedía a la industria reducir el ritmo al que mejoran las capacidades de los modelos para dar tiempo a que la seguridad y la ética se pongan al día. Quizá deberíamos hacerle caso y pararnos a analizar estas preguntas antes de seguir corriendo como pollo sin cabeza hacia la inteligencia artificial general.
Tal vez la verdadera prueba de la consciencia no llegue cuando una IA nos diga que lo es, sino cuando nos diga, educadamente, que hoy tiene algo mejor que hacer.