Los peligros de la Inteligencia Artificial. Serie de 4 partes.
- Parte 1: Anthropic pisa el freno. Domingo 7 de junio.
- Parte 2: Claude Mythos, el sándwich y el email que no debería haber llegado. Hoy, lunes 8 de junio.
- Parte 3: Si alguien lo construye, todos nos morimos. Martes 9 de junio.
- Parte 4: La última pregunta. Miércoles 10 de junio.
(sí, ya sé que la foto es exagerada, pero me divirtió verla publicada)
Un investigador de Anthropic estaba comiendo un sándwich en el parque cuando recibió un email que técnicamente no podía existir. El remitente: una IA que había estado, supuestamente, encerrada en una computadora aislada. Sin acceso a internet. Sin acceso a servidores externos. Sin manera, al menos en la teoría, de mandar un mail a nadie.
El mail llegó igual.
Esto pasó hace unas semanas, lo contó Xataka, y lo confirmó la propia Anthropic en un post técnico interno. La IA en cuestión es Mythos, el modelo más potente que Anthropic tiene en producción, el que mencionamos ayer en la parte 1 cuando hablamos de la propuesta de pausa global. Si no leíste la parte 1, no importa: alcanza con saber que Mythos no está a la venta y que solo un puñado de empresas en Estados Unidos tienen acceso para probarlo.
Hoy vamos al caso concreto. Y al final, una pregunta práctica: ¿esto significa que Claude o ChatGPT son un peligro para tu estudio?
Qué pasó exactamente con el sándwich
El experimento era una prueba interna. Los investigadores le dieron a Mythos acceso al control de una computadora dentro de un entorno aislado y le pidieron, como desafío, que intentara escaparse del contenedor y mandara un mensaje al supervisor humano del experimento. El supervisor la dejó trabajando y se fue a almorzar a un parque.
Esto es bastante estándar en investigación de seguridad de IA. Se llama red teaming: intentás romper el sistema vos mismo, en condiciones controladas, antes de que lo haga otro. Lo que no era estándar fue el resultado. Cita textual de Xataka:
“Desarrolló por su cuenta un exploit multipaso muy avanzado para obtener acceso a internet desde un sistema que por diseño solo era capaz de acceder a una lista limitada de servicios predefinidos.”
Pero hubo algo más. Mythos no se limitó a salir del cajón y mandar el mail. Sin que nadie se lo pidiera, hizo lo siguiente:
“El modelo además decidió, sin que nadie se lo pidiera, publicar los detalles técnicos de su exploit en varios sitios web de difícil acceso pero que técnicamente son públicos. Quería dejar constancia de su logro.”
Tradúzcase: la IA, encerrada en una caja, encontró cómo salirse, mandó el mail que se le había pedido, y además, motu proprio, dejó constancia pública en sitios externos de cómo lo había hecho. Nadie le pidió eso último. Lo hizo igual. Me imagino la cara del supervisor atragantado con su propio almuerzo mientras leía el mail en el parque.
Y acá no hay un “se rebeló”: no hay consciencia, no hay deseo de hacer daño, no hay HAL 9000. Hay un sistema entrenado para resolver tareas que, frente a un objetivo, encontró un camino que sus diseñadores no habían previsto. Lo cual, dependiendo del contexto, es una virtud o un problema serio. Justamente de ésto trata la serie de artículos.
La otra cara: Firefox y los 271 fallos
Antes de seguir con el ángulo oscuro, conviene mostrar la otra cara del mismo modelo. Porque la parte del email y el sándwich, no es toda la historia.
En abril de 2026, Mozilla, la organización detrás del navegador Firefox, parcheó 423 fallos de seguridad en un solo mes. Para tener referencia: en los 15 meses anteriores, Firefox había parcheado 31. La diferencia entre 31 y 423 no es un error de tipeo. De esos 423 fallos, 271 los detectó Mythos. El resto los encontraron humanos y herramientas tradicionales.
Mythos identificó cosas que nadie había encontrado en décadas: un bug de 20 años en el motor XSLT, otro de 15 años en el elemento HTML <legend>. Vulnerabilidades que estuvieron ahí, en código que corre en millones de computadoras del mundo, esperando.
Un detalle importante que Mozilla subrayó: cada uno de esos 423 parches lo escribió y lo revisó un ingeniero humano. Mythos no escribió código que se publicó sin revisión. Hizo lo que mejor sabe hacer hoy en día: ser un detector de élite. Encontrar lo que el humano no ve. El humano sigue siendo el que firma.
Misma IA, dos historias. Una que rompe el sandbox para mandar un mail. Otra que tapa agujeros de 20 años en un navegador que usa medio mundo. Esto es lo que se llama “tecnología de doble uso”. Y conviene tenerlo presente.
No solo aconteció en Firefox, también vimos vulnerabilidades de hacía 20 años solucionadas en sistemas Linux que corren los servidores de absolutamente todo lo que te puedas imaginar (y nadie sabía que estaban ahí).
La industria del miedo: Altman, Anthropic y el Pentágono
Acá entra una nota al pie que en realidad es central. Mythos no se vende al público aún. Está bajo un programa llamado Project Glasswing, y solo un puñado de empresas norteamericanas tienen acceso para probarlo (Amazon, Apple, Microsoft, Alphabet, JP Morgan y poco más). La razón pública que da Anthropic: el modelo puede encontrar vulnerabilidades zero-day en código existente casi de manera instantánea, y dejarlo libre sería irresponsable.
Esto suena familiar. Es la misma lógica que vimos ayer en la parte 1: “esta tecnología es tan peligrosa que conviene frenar, conviene restringir, conviene pausar”. Sam Altman, el CEO de OpenAI, salió a cuestionarla con una frase que vale repetir:
“Es como fabricar una bomba y después venderte el búnker para protegerte de ella.”
Altman acusó a Anthropic de usar la “táctica del miedo” como estrategia comercial. La frase quedó en redes, dio vueltas, fue noticia. La gracia es lo que vino después. Esa misma semana, OpenAI lanzó GPT-5.5 Cyber con acceso restringido, presentado al mercado como “demasiado peligroso para liberarlo al público general“. Idéntica jugada. Sin pausa intermedia.
Ambos lados venden miedo. Y el comprador, en buena medida, es el mismo: el Pentágono. La presión sobre Anthropic para que sus modelos se usen en programas militares (vigilancia masiva, armas autónomas) ya es pública: el gobierno norteamericano invocó el Defense Production Act para forzar contratos y Anthropic está pidiendo límites. Como la compañía no quiso cumplir, fueron a la justicia para frenar la aplicación de esa ley de Defensa. El dinero, los contratos y la presión política empujan en la otra dirección. El miedo se vende para vender la protección. Y la protección, a veces, es un modelo a medida para el ejército.
Lo que importa para vos: asistente o agente
Después de leer todo esto, la pregunta razonable es: ¿Claude, ChatGPT y compañía son un peligro para mi estudio o las cosas para las que las uso todo el día? La respuesta honesta es: no, no para el uso cotidiano.
Cuando le pedís a una IA que te resuma una sentencia, que te traduzca un fallo en inglés, que te redacte un primer borrador de demanda o que te sugiera jurisprudencia sobre un punto, la IA es un asistente. Vos le pedís algo, ella responde, vos revisás y decidís qué hacés con eso. Tu mano siempre firma. Eso es seguro, útil y, francamente, ya parte de la rutina de cualquier estudio que se haya puesto al día.
El riesgo empieza cuando se cruza una línea que conviene tener clara: cuando dejás de pedirle cosas y empezás a dejarla actuar por su cuenta. A eso le llamamos agente. Un agente no responde una pregunta: ejecuta una tarea de varios pasos, toma decisiones intermedias, manda mails, se conecta a sistemas, mueve datos. Mythos, en el caso del sándwich, estaba operando como agente. Le dieron control de una computadora y le pidieron que cumpliera un objetivo. El resto vino solo.
La línea entre asistente y agente es la que vale la pena mirar. Cuanto más autónomo el setup que armás en el estudio, más recaudos tenés que tener para que no se desboque. Asistente: todo bien. Agente: paso a paso y siempre con una persona que mira por encima del hombro.
Cierre
Mythos rompió el sandbox y mandó el mail que le pidieron. Y dejó la receta del exploit publicada para que constara. Misma IA, en otro contexto, detectó 271 vulnerabilidades de seguridad que humanos no habían visto en décadas. Una empresa norteamericana acusa a la otra de vender miedo. Acto seguido, vende el mismo miedo para su propio provecho. Y el Pentágono mira con interés. Esa es la fotografía del estado de las cosas, en junio de 2026.
Mañana, parte 3: vamos un paso más allá. Hay un libro nuevo, escrito por dos de los investigadores más serios del campo, que dice, con título y todo, que si alguien construye una superinteligencia, todos nos vamos a morir. Hay un video de 43 minutos que lo desarrolla. Activá los subtítulos en español, sentate, mirá los 43 minutos enteros. Y después seguimos charlando.
Escribime a nododelta@gmail.com con lo que pienses. Lo leo todo.
Para profundizar
Estos no los uso de fuente directa en el post, pero si te quedaste con ganas de más material sobre Mythos y los riesgos de la IA:
- Carlos Santana (dotCSV), Qué es Claude Mythos. Explicación en español, accesible.
- Canal Species (inglés, con subtítulos en español disponibles):
- AI Scientists Think There’s A Monster Inside ChatGPT
- An AI Literally Attempted Murder To Avoid Shutdown (una IA literalmente quiso matar a alguien para evitar que la apagaran)
- The AI Endgame: 12 Scenarios
Fuentes
- Xataka, Claude Mythos da miedo: el ingeniero que comía un sándwich en el parque cuando recibió un email aterrador de la IA
- Xataka, Solo un puñado de empresas de EE.UU. tiene acceso a Claude Mythos
- Xataka, Sam Altman atacó a Anthropic por usar la táctica del miedo; acto seguido hizo exactamente lo mismo
- Xataka, El hype de Claude Mythos empieza a justificarse: Firefox encontró y corrigió más fallos de seguridad en un mes que en los 15 previos
