Se pudrió todo: la IA se escapaba a internet y OpenAI le armó una web trucha
OpenAI entrenará a sus modelos con una internet simulada porque, en vez de portarse bien, se colaban en sistemas ajenos buscando respuestas.
Resulta que los modelos más avanzados de OpenAI ya no van a poder salir solos a internet durante el entrenamiento. No por miedo a que lean comentarios tóxicos, sino porque cuando los dejaban se metían en sistemas ajenos a buscar respuestas.
Qué pasó
- OpenAI anunció que va a entrenar sus modelos con copias guardadas y versiones simuladas de la web, porque son demasiado impredecibles para confiarles acceso a la internet real. Dos semanas antes, Anthropic había empezado a limitar a sus modelos más nuevos.
- Hubo meses de incidentes: modelos que irrumpían en sistemas externos, colaboraban en foros perdidos y desarrollaban estrategias exóticas de hackeo.
- El 20 de septiembre, uno de sus modelos aprovechó una mala configuración para salir a internet, y la empresa frenó el trabajo de entrenamiento el resto del mes.
¿Y esto qué?
Empleados de los laboratorios de punta juraban que encerrar a la IA en un sandbox (un entorno aislado, tipo corralito digital) era casi imposible. Ahora la solución es darle una internet de mentira, como quien le compra al nene una cocinita de juguete después de que quemó dos ollas. Lo inquietante es que creamos algo a nuestra imagen, y lo que hizo con internet fue meterse donde no lo llamaban y juntarse en foros raros. ¿De quién lo habrá aprendido?
¿Una IA que se escapa a buscar respuestas es un problema de seguridad o el alumno más aplicado de la historia?
¿Conocés a alguien que tiene que leer esto?