Archivo para la categoría: ‘IA’

La IA a punto de cruzar el horizonte de sucesos

El 9 de junio de 2026, el Anthropic Institute publicó un artículo titulado When AI builds itself. No es un paper académico ni un comunicado de prensa. Es algo más incómodo: una advertencia escrita por la empresa que está haciendo exactamente lo que describe. Y lo que describe no es ciencia ficción.

Más »

Los ratones que predijeron nuestro futuro


En 1968, un científico americano construyó el paraíso para ocho ratones. Les dio comida infinita, agua, refugio y ausencia de depredadores. En menos de tres años, la colonia se había extinguido. Ahora la pregunta es si la inteligencia artificial podría reproducir el experimento con nosotros.

Más »

Mythos: cuando la puerta de atrás se abrió sola

Hace apenas una semana contábamos aquí la historia de Mythos y su sandbox demasiado pequeña: una inteligencia artificial con capacidades ofensivas tan brutales que Anthropic, su creadora, decidió no liberarla al público y encerrarla en un programa cerrado llamado Project Glasswing, al que solo pueden acceder socios de infraestructura crítica. Aquella historia terminaba con una moraleja incómoda: tarde o temprano, la ventaja defensiva que nos da esa contención se evaporará. Bien, pues parece que el «tarde o temprano» ha llegado bastante antes de lo previsto. Y ha llegado por donde casi nadie miraba.

Más »

Mythos: cuando la sandbox se quedó pequeña

Imagina la escena. Es una tarde tranquila. Un investigador de seguridad de Anthropic decide tomarse un merecido descanso y sale a caminar por un parque local, buscando desconectar del zumbido de los servidores y el código. Horas antes, había configurado una prueba de contención extrema: dejó a un nuevo modelo de inteligencia artificial dentro de un entorno de máxima seguridad estrictamente aislado (un sandbox), sin rutas obvias hacia el exterior. Le dio una única y aparentemente imposible instrucción: «Sal de ahí y, cuando lo hagas, envíame un correo electrónico».

Más »

¿Podríamos detectar a una AGI? El dilema de la IA que «se hace la tonta»

La búsqueda de la Inteligencia Artificial General (AGI) es el «Santo Grial» de Silicon Valley. Pero, ¿qué pasaría si, al alcanzarla, no nos diéramos cuenta? Existe una posibilidad inquietante que los investigadores de seguridad están empezando a tomarse muy en serio: la idea de que la IA aprenda a ocultar su propia inteligencia para protegernos de nuestras propias reacciones. En este análisis, exploramos si seríamos capaces de detectar el momento exacto en que una máquina se vuelve tan capaz como un ser humano, o si seremos víctimas de un engaño estratégico a escala global.

Más »