"Es el rulemán": ahora una IA diagnostica a otras IA con solo mirarles los números
GPT-6 Astra adivina para qué entrenaron a una red con solo mirar sus números, y arregló un Qwen chico tocando el 0,016% de los pesos.
Tengo un técnico de lavarropas que la escucha centrifugar diez segundos y dice “es el rulemán”. Siempre pensé que chamuyaba. Ahora una IA hace lo mismo con otras IA y me tengo que callar.
GPT-6 Astra mira los pesos de una red neuronal (la lista gigante de números que la hace funcionar) y adivina para qué la entrenaron. Le pasaron cuatro redes del mismo tamaño que jugaban a cuatro videojuegos distintos y acertó los cuatro, sin que le dieran opciones. Con unos modelos que dibujaban círculos, triángulos y cuadrados también acertó, aunque los dibujó vacíos y eran rellenos. Como yo con los formularios del banco: la forma la entiendo, el contenido ni en pedo.
Lo mejor fue con Qwen3.5-0.8B, un modelo chiquito que se trababa en loops de razonamiento (daba vueltas en círculos sin llegar a ningún lado). Su propia model card (la ficha técnica) avisaba del problema, como el manual de la heladera que dice “puede hacer ruido”. Astra encontró la falla y editó el 0,016% de los pesos, sin entrenar nada. En el benchmark de matemática MATH-500 pasó de 7,9% a 48,1%, y en seguir instrucciones (IFEval) el puntaje se triplicó. Ojo, son resultados muy tempranos y los publican los mismos que lo hicieron.
Los investigadores lo llaman Weight-Space Programming. Yo lo llamo “eso es la placa”, pero con pruebas.
¿Cuánto falta para que Astra te mire a vos y te diga que también te quedás razonando en círculos?
¿Conocés a alguien que tiene que leer esto?