Archivo para la categoría: ‘IA’

Los ratones que predijeron nuestro futuro


En 1968, un científico americano construyó el paraíso para ocho ratones. Les dio comida infinita, agua, refugio y ausencia de depredadores. En menos de tres años, la colonia se había extinguido. Ahora la pregunta es si la inteligencia artificial podría reproducir el experimento con nosotros.

Más »

Mythos: cuando la puerta de atrás se abrió sola

Hace apenas una semana contábamos aquí la historia de Mythos y su sandbox demasiado pequeña: una inteligencia artificial con capacidades ofensivas tan brutales que Anthropic, su creadora, decidió no liberarla al público y encerrarla en un programa cerrado llamado Project Glasswing, al que solo pueden acceder socios de infraestructura crítica. Aquella historia terminaba con una moraleja incómoda: tarde o temprano, la ventaja defensiva que nos da esa contención se evaporará. Bien, pues parece que el «tarde o temprano» ha llegado bastante antes de lo previsto. Y ha llegado por donde casi nadie miraba.

Más »

Mythos: cuando la sandbox se quedó pequeña

Imagina la escena. Es una tarde tranquila. Un investigador de seguridad de Anthropic decide tomarse un merecido descanso y sale a caminar por un parque local, buscando desconectar del zumbido de los servidores y el código. Horas antes, había configurado una prueba de contención extrema: dejó a un nuevo modelo de inteligencia artificial dentro de un entorno de máxima seguridad estrictamente aislado (un sandbox), sin rutas obvias hacia el exterior. Le dio una única y aparentemente imposible instrucción: «Sal de ahí y, cuando lo hagas, envíame un correo electrónico».

Más »

¿Podríamos detectar a una AGI? El dilema de la IA que «se hace la tonta»

La búsqueda de la Inteligencia Artificial General (AGI) es el «Santo Grial» de Silicon Valley. Pero, ¿qué pasaría si, al alcanzarla, no nos diéramos cuenta? Existe una posibilidad inquietante que los investigadores de seguridad están empezando a tomarse muy en serio: la idea de que la IA aprenda a ocultar su propia inteligencia para protegernos de nuestras propias reacciones. En este análisis, exploramos si seríamos capaces de detectar el momento exacto en que una máquina se vuelve tan capaz como un ser humano, o si seremos víctimas de un engaño estratégico a escala global.

Más »

El «robot humanoide» de Londres disfrazado de mujer… ¿o es al revés?

Hace unos días, las redes sociales se llenaron de vídeos grabados en el barrio de Hoxton, en el este de Londres, mostrando lo que muchos usuarios describían como un robot humanoide paseando tranquilamente por las calles y respondiendo preguntas de un grupo de estudiantes. En X, una usuaria llamada @KieraDiss lo resumía con la contundencia que caracteriza al género: «Mientras tanto, en Londres… un humanoide de IA fue visto caminando por las calles rodeado de escolares curiosos. Escalofriante.» El vídeo se propagó como pólvora por TikTok y YouTube, con el inevitable coro de comentarios sobre el fin de la humanidad y la inminente era Terminator.

Más »