Anthropic admite en la letra chica que se entera tarde de cuánto mejora su IA
Anthropic avisa en los papeles para salir a la bolsa que su IA podría estar cerca de mejorarse sola, y que a veces se enteró tarde de sus propios saltos.
Mi sobrino creció ocho centímetros en un verano. Nos dimos cuenta en marzo, cuando el pantalón del colegio le quedó pescador. A Anthropic le pasa lo mismo, pero con Claude.
En el S-1 (los papeles que una empresa presenta para salir a la bolsa), entre ingresos que suben y gastos que también, metió una confesión en la letra chica: usa IA para desarrollar su propia IA y, en el pasado, sus modelos pegaron saltos de capacidad que la empresa no detectó hasta después. Avisa además que podría estar cerca de la RSI, la automejora recursiva: el punto en que la IA se vuelve tan buena entrenándose a sí misma que todo se acelera. Aclara que ningún modelo actual cruzó ese umbral y que evalúa cambios para que los humanos sigan al mando.
No me desvela el robot que se construye solo, sino que los que lo fabrican admitan que se enteran tarde. Yo me entero tarde de que me venció la VTV y me siento un fracasado. Ellos lo ponen por escrito para los inversores.
Los escépticos dicen que un S-1 también es marketing, y “somos tan buenos que nos asustamos solos” vende bastante.
¿Le comprarías acciones a una empresa que te avisa que su producto crece más rápido de lo que ella alcanza a medir?
¿Conocés a alguien que tiene que leer esto?