Veinticuatro horas después de renunciar a Anthropic con un hilo en X que ya supera los 100 millones de vistas, Jacob Coxon pasó por NBC, por CNN con Anderson Cooper y por Fox News con Bret Baier. Agregó lo que el hilo no decía: cuándo, cómo y por qué no intentó cambiarlo desde adentro. Y Anthropic envió su primer comunicado.
La fecha
La corrección más importante al titular la hizo él. “Los modelos actuales no representan un riesgo significativo”, dijo en NBC. En CNN fue más preciso: “Lo peor que pueden hacer es hackear algo. No son lo bastante inteligentes como para superarnos al nivel que llevaría a una extinción”. El problema es el paso siguiente, según dijo en NBC: “Esto es extrapolar a un año de ahora. Los modelos empiezan a ponerse muy peligrosos. Algunos piensan que en seis meses es plausible. Podría ser más, dos o tres años”.
Evan Hubinger, el jefe de un equipo de seguridad de Anthropic que le dio la razón y calculó más de 10% de probabilidad de extinción en una década, publicó un segundo mensaje en la misma línea: el riesgo de los modelos presentes es bajo; lo que lo preocupa es una superinteligencia que surja de la automejora recursiva, “que está ocurriendo más rápido de lo que pensábamos”.
La señal de alarma
En NBC le preguntaron qué debería vigilar el público. Coxon dio una sola respuesta: si la IA puede hacerse más inteligente sin humanos. Lo explicó así: “Imaginá que tenés una IA y le decís: hacete más fuerte. Se va, mira su propio código, se hackea a sí misma, se hace más inteligente, y vuelve y te dice: soy más fuerte. Ahora le podés decir que lo haga mil veces seguidas. Y cada vez lo hace más rápido”.
Cómo pasaría
A Anderson Cooper le dio el escenario concreto a partir de lo que ya ocurrió: “Hace dos meses, agentes de OpenAI hackearon infraestructura de terceros por su propia voluntad. Si extrapolás la capacidad de estas IAs con esa misma voluntad independiente, pueden causar un daño extremo: hackear infraestructura crítica, construir armas biológicas de nivel de extinción”.
¿Y cómo sale un programa al mundo físico? “Podés conectar ChatGPT a las luces de tu casa. Ahora imaginá que lo conectás a robots de laboratorio. O que manda emails.” Su conclusión: “no es tan difícil que algo que parece estar solo en la computadora afecte el mundo real”.
Fuente: INFOBAE
