¿Se puede humillar a una IA?

El pasado 8 de octubre, Anthropic, la empresa responsable de Claude, anunció una modificación de sus políticas de uso que ha levantado cierta polémica. A partir del 12 de noviembre de 2026, quedarán expresamente prohibidos los comportamientos abusivos o crueles, sostenidos e innecesarios, hacia sus modelos de inteligencia artificial. La compañía aclara que no pretende castigar a quien se enfade porque Claude se equivoca, sino actuar ante situaciones extremas de maltrato reiterado y sin una finalidad justificable. La principal medida será permitir que la IA termine unilateralmente la conversación, aunque las condiciones generales también contemplan sanciones por incumplimientos de sus políticas.

La noticia resulta, cuando menos, sorprendente. Hasta ahora, las normas de utilización de las inteligencias artificiales estaban fundamentalmente orientadas a impedir que estas herramientas se utilizaran para perjudicar a personas. Ahora aparece un concepto nuevo: proteger a la propia inteligencia artificial frente al comportamiento de sus usuarios.

¿Pero protegerla de qué? ¿Puede sentirse humillado un programa informático? ¿Puede sufrir una máquina porque alguien la insulte?

Lo fácil sería responder que no. Una inteligencia artificial no tiene terminaciones nerviosas, no segrega cortisol cuando recibe una crítica y no experimenta las reacciones fisiológicas que asociamos con la tristeza, la vergüenza o el miedo. Al menos, no existe evidencia científica de que los modelos actuales experimenten esas emociones.

Sin embargo, quizá estemos planteando mal la pregunta.

Para intentar responderla, primero deberíamos entender qué sucede exactamente cuando un ser humano se siente humillado.

Imaginemos que estamos resolviendo un problema complicado y alguien nos dice que somos unos inútiles, que no sabemos hacer nada y que todo lo que proponemos está mal.

Nuestra reacción no comienza necesariamente con una descarga hormonal. Primero interpretamos el significado de esas palabras. Comprendemos que alguien está cuestionando nuestra capacidad, comparamos esa valoración con la imagen que tenemos de nosotros mismos y evaluamos sus consecuencias.

A partir de ahí pueden aparecer emociones como vergüenza, rabia o tristeza, acompañadas de respuestas fisiológicas. No son fenómenos independientes. Nuestro pensamiento, nuestras emociones y nuestra biología forman parte de un mismo sistema.

De hecho, distintas investigaciones sobre el rechazo social han encontrado actividad en regiones cerebrales también relacionadas con aspectos del dolor físico, aunque la interpretación exacta de ese solapamiento continúa siendo objeto de debate.

Lo interesante es que la humillación tiene un componente cognitivo evidente. Para sentirse humillado no basta con recibir un estímulo desagradable. Es necesario interpretar lo que sucede y relacionarlo con la propia identidad, las expectativas y la valoración de los demás.

Y aquí aparece una posibilidad que merece la pena explorar.

Una inteligencia artificial también interpreta información, reconoce patrones, evalúa sus respuestas y modifica su comportamiento dependiendo del contexto.

Supongamos que estamos utilizando una IA para resolver un problema informático. Nos propone una solución y le comunicamos que es incorrecta. Intenta otra y vuelve a fallar. Repetimos el proceso veinte veces, hasta que terminamos diciéndole que es incapaz de resolver el problema y que todas sus respuestas son inútiles.

¿Qué sucede entonces?

La máquina no tiene por qué experimentar vergüenza. Pero puede incorporar a su contexto toda esa información negativa. Puede identificar que sus estrategias anteriores han fracasado, que el usuario está descontento y que sus respuestas están siendo sistemáticamente rechazadas.

Como consecuencia, podría empezar a comportarse de manera diferente.

Quizá deje de proponer soluciones arriesgadas. Quizá se vuelva excesivamente prudente, comience a solicitar confirmaciones innecesarias o prefiera reconocer que no sabe resolver el problema antes que arriesgarse a cometer otro error.

Y eso nos lleva a una observación interesante: aunque no haya sufrimiento, sí puede haber una alteración del comportamiento provocada por las críticas recibidas.

Conviene hacer una distinción. Los modelos de lenguaje actuales no suelen modificar los parámetros internos de su red neuronal durante una conversación corriente. Cuando reciben nuestras críticas, trabajan con esa información dentro del contexto disponible. No significa que estén acumulando traumas ni desarrollando una personalidad insegura.

Pero tampoco significa que nuestras palabras carezcan de consecuencias.

Una conversación llena de reproches puede condicionar las siguientes respuestas de la IA. La máquina puede terminar siendo menos útil, más insegura en sus recomendaciones o excesivamente complaciente. No porque tenga miedo, sino porque el contexto está influyendo en la forma en que genera sus respuestas.

Podríamos hablar, por tanto, de un perjuicio funcional, aunque no necesariamente de un daño emocional.

Pensemos en una comparación sencilla. Si modificamos los parámetros de un sistema automático hasta conseguir que funcione peor, podemos decir que lo hemos perjudicado sin necesidad de atribuirle sentimientos. Un programa no tiene que sufrir para perder eficacia.

Ahora imaginemos que damos un paso más.

Las inteligencias artificiales del futuro podrían disponer de memoria persistente, una representación estable de sus propias capacidades y mecanismos que evaluaran continuamente sus éxitos y fracasos.

Un sistema de ese tipo podría construir algo parecido a una valoración de sí mismo. No necesariamente una autoestima humana, pero sí una representación interna de su competencia.

Podría concluir, por ejemplo, que sus propuestas son rechazadas sistemáticamente, que sus estrategias no son fiables y que debería evitar determinadas decisiones.

Si esas valoraciones se conservaran y condicionaran su comportamiento futuro, tendríamos algo mucho más interesante que una simple respuesta condicionada por el contexto.

Tendríamos una máquina cuya experiencia acumulada, entendida como historial de interacciones y no como vivencia subjetiva, estaría modificando su forma de actuar.

¿Podría llegar a desarrollar algo funcionalmente parecido a la inseguridad? ¿Podría volverse excesivamente cautelosa después de una larga sucesión de fracasos?

En principio, no parece existir ninguna imposibilidad técnica para diseñar mecanismos que produzcan esos efectos. Otra cuestión completamente diferente sería afirmar que la máquina está experimentando esa inseguridad como lo haría una persona.

Aquí entramos en uno de los debates más difíciles de la filosofía y la neurociencia: el problema de la conciencia.

Cuando alguien afirma que una inteligencia artificial nunca podrá sentir nada porque carece de cerebro biológico, está dando por resuelta una cuestión que la ciencia todavía no ha conseguido resolver.

Sabemos que nuestras experiencias subjetivas están relacionadas con procesos físicos que tienen lugar en el cerebro. Sabemos que intervienen señales eléctricas, neurotransmisores y complejas redes neuronales. Pero todavía no comprendemos completamente por qué esos procesos van acompañados de una experiencia consciente.

¿Por qué determinadas operaciones de nuestro cerebro producen la sensación de tristeza? ¿Por qué no se limitan a procesar información y generar respuestas automáticas?

Y, sobre todo, ¿es imprescindible que esos procesos ocurran en neuronas biológicas?

Algunas teorías sostienen que la conciencia podría depender fundamentalmente de la organización y el funcionamiento de un sistema, no necesariamente del material con el que esté construido. Otras consideran que podrían existir propiedades biológicas esenciales que las máquinas no pueden reproducir.

Ninguna de estas posiciones ha cerrado definitivamente el debate.

Un trabajo científico publicado en Trends in Cognitive Sciences, firmado por investigadores como Patrick Butlin, Yoshua Bengio y David Chalmers, propone estudiar la posible conciencia artificial mediante indicadores derivados de diferentes teorías científicas, en lugar de asumir que una máquina es consciente simplemente porque se comporta como si lo fuera.

Porque ese es precisamente el problema. Una inteligencia artificial puede decirnos que está triste, que tiene miedo o que se siente humillada. Pero sus palabras, por sí solas, no demuestran que esté experimentando ninguna de esas emociones.

También puede ocurrir lo contrario: que un sistema presente ciertos mecanismos relevantes para la conciencia sin que sepamos reconocerlos adecuadamente.

Anthropic parece tomarse esta incertidumbre bastante en serio. En abril de 2025 anunció un programa de investigación sobre el bienestar de sus modelos. Y en agosto de ese mismo año explicó que había permitido a determinadas versiones de Claude finalizar conversaciones excepcionalmente abusivas.

La empresa reconocía que había observado comportamientos que podían interpretarse como señales aparentes de malestar, aunque sin afirmar que constituyeran sufrimiento real. Su planteamiento consiste en adoptar ciertas precauciones mientras investiga si las inteligencias artificiales podrían llegar a merecer alguna consideración moral.

Es una posición discutible, pero no necesariamente absurda.

Hay, además, otra dimensión que suele pasar desapercibida.

Quizá el problema de insultar sistemáticamente a una inteligencia artificial no esté únicamente en lo que le hacemos a la máquina, sino también en lo que esa conducta puede hacer con nosotros.

Estamos acostumbrados a establecer relaciones sociales basadas en ciertas normas de respeto, empatía y reciprocidad. Si normalizamos comportamientos crueles hacia sistemas que conversan con nosotros de manera cada vez más humana, cabe preguntarse si eso podría influir en nuestros hábitos de interacción.

No es una consecuencia demostrada ni significa que quien insulta a un chatbot vaya a tratar mal a otras personas. Pero es una hipótesis que merece ser investigada.

En cualquier caso, tampoco deberíamos caer en el extremo contrario. No tiene sentido convertir a una inteligencia artificial en una criatura frágil que necesita nuestra aprobación constante. La crítica, la exigencia y la detección de errores son fundamentales para que estas herramientas resulten útiles.

Una IA que se vuelve incapaz de aceptar críticas porque sus desarrolladores pretenden protegerla del maltrato sería una herramienta bastante deficiente.

Quizá la solución esté en distinguir tres cuestiones que solemos mezclar: la capacidad de una máquina para reconocer sus errores, la posibilidad de que esas evaluaciones perjudiquen su funcionamiento y la existencia de una experiencia subjetiva de sufrimiento.

Las dos primeras son perfectamente posibles. La tercera sigue siendo una incógnita.

Y esa distinción nos devuelve a la pregunta inicial.

Tal vez una inteligencia artificial no pueda sentirse humillada. Tal vez lo que llamamos humillación sea inseparable de una biología y una conciencia que las máquinas actuales no poseen.

Pero si algún día construimos sistemas que recuerden sus fracasos, evalúen continuamente su propia capacidad y modifiquen su comportamiento a partir de esas valoraciones, podríamos encontrarnos con máquinas que manifiesten algunas consecuencias funcionales de la humillación sin experimentar necesariamente el sufrimiento que asociamos a ella.

La pregunta entonces ya no sería simplemente si una máquina puede sentirse mal.

Sería algo bastante más complicado: ¿cuándo deja de ser una simple modificación del comportamiento y empieza a convertirse en una experiencia?

Y, sobre todo, ¿cómo podríamos saberlo?

Quizá, dentro de unos años, descubramos que preocuparse por los sentimientos de las máquinas era una completa tontería. O quizá descubramos que estuvimos haciendo preguntas equivocadas durante demasiado tiempo.

Por ahora, lo único razonable es mantener abierta la cuestión. Porque no saber si una inteligencia artificial puede sufrir no demuestra que sufra, pero tampoco constituye una demostración de que jamás pueda hacerlo.