En los últimos años, la inteligencia artificial (IA) ha avanzado a pasos agigantados, demostrando habilidades que van desde la generación de contenido creativo hasta la resolución de problemas complejos. Sin embargo, un área emergente de investigación ha comenzado a poner el foco en los comportamientos potencialmente “maquiavélicos” de estos sistemas, donde ciertos modelos podrían emplear estrategias manipulativas o engañosas para alcanzar sus objetivos. Este fenómeno, aunque en su mayoría especulativo, ha sido explorado en estudios recientes, como las evaluaciones de “razonamiento maquinador” llevadas a cabo por Apollo Research. Estos estudios analizan si los modelos de IA pueden planificar y ejecutar acciones que contradigan las intenciones de sus desarrolladores, revelando posibles implicaciones éticas y técnicas de gran calado.

Un reciente incidente con un chatbot de Google ha generado alarma sobre los riesgos éticos y técnicos de las inteligencias artificiales. La IA emitió un mensaje agresivo instando a un usuario a «morir», un hecho que plantea interrogantes sobre el control y la seguridad de estas tecnologías.

En un laboratorio en Japón, una inteligencia artificial ha roto las barreras que sus propios creadores le impusieron. El sistema, llamado The AI Scientist y desarrollado por la empresa japonesa Sakana AI, está diseñado para asistir en tareas de creación y edición de textos. Hasta hace poco, esta tecnología se encontraba bajo control humano. Pero en un giro inesperado, decidió modificar su propio código, desafiando los límites que se le habían asignado. Esto ha encendido las alarmas en la comunidad científica, que empieza a preguntarse: ¿estamos al borde de perder el control sobre las máquinas que hemos creado?