Jacob Coxon, un ingeniero británico de 27 años que trabajaba como investigador de inteligencia artificial en Anthropic, renunció este martes 8 de septiembre a su puesto en la compañía y abandonó la industria tecnológica con una advertencia alarmante: “Las personas que están construyendo IA creen sinceramente que podría matarnos a todos antes de que acabe esta década”. Coxon, quien también trabajó durante tres años en OpenAI (la creadora de ChatGPT) y participó en el desarrollo de modelos como GPT-4o y GPT-4.5, acusó a ambas empresas de “no actuar con responsabilidad” y de “estar jugando con nuestras vidas” en la carrera por desarrollar una superinteligencia artificial capaz de mejorarse a sí misma.
En un hilo publicado en la red social X, el ingeniero explicó que pasó los últimos tres años realizando investigación de preentrenamiento tanto en OpenAI como en Anthropic, pero decidió abandonar la industria porque considera que “ninguna de las dos compañías está actuando de manera responsable”. Según Coxon, “están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas”, y advirtió que “no hay otra actividad humana que suponga este nivel de amenaza” para la supervivencia de la humanidad.
Advertencia sobre sistemas sobrehumanos
Coxon alertó de que se está subestimando el poder de la tecnología de IA y que “pronto serán sistemas sobrehumanos que podrán hackear cualquier cosa, revolucionar todos los ámbitos y ganar verdadero poder y recursos”. El investigador señaló que, en su opinión, hay una conciencia de esta realidad tanto en OpenAI como en Anthropic, pero ve una diferencia clave entre ambas: mientras que en OpenAI “tal vez no han internalizado en profundidad los retos civilizacionales”, en Anthropic los comprenden bien pero “están atrapados en la carrera por llegar primero”, aun cuando en el caso más optimista se trate de llegar primero “para actuar con responsabilidad”.
El ingeniero cerró su publicación haciendo un llamamiento a sus colegas investigadores: “Si eres investigador de laboratorio, te insto a que consideres cómo serán realmente los próximos años”. Coxon también reveló que en el sector se emplean de forma cotidiana términos como “crunchtime” (hora límite) o “endgame” (fase final) para describir la carrera hacia modelos con automejora recursiva, y advirtió de que los escenarios de riesgo más severos podrían materializarse antes de finales de 2027, momento en que la tecnología podría quedar fuera del control humano.
Respuesta de su exjefe en Anthropic
En una respuesta pública que ha generado aún más controversia, Evan Hubinger, investigador de Anthropic que se dedica a evaluar los sistemas de IA y sus riesgos potenciales, respaldó las preocupaciones de Coxon y reconoció que en la compañía comparten sus temores. “Jacob tiene razón aquí: realmente creemos con sinceridad que la IA podría matar a todos los humanos”, escribió Hubinger en X. “Personalmente, pienso que es más del 10% dentro de la próxima década”, añadió el jefe de seguridad de Anthropic, quien también admitió que “no tenemos un plan para resolver el alineamiento para la superinteligencia y no estamos claramente en camino de lograrlo”.
Hubinger matizó que el riesgo de los modelos actuales de IA es bajo, pero lo preocupante es “la superinteligencia que surge del automejoramiento recursivo, que está ocurriendo más rápido de lo que pensábamos”. Esta admisión pública por parte de un alto directivo de Anthropic ha intensificado el debate sobre los riesgos existenciales de la inteligencia artificial y ha puesto bajo escrutinio las prácticas de seguridad de las principales empresas del sector.
Llamado a la coordinación y moratoria temporal
Coxon no ve otra salida que la coordinación entre los distintos proyectos de IA y de las empresas involucradas en ellos, pero siente que no se está produciendo. Por ello, aboga por “acciones costosas, como una prohibición temporal de mejorar las capacidades del modelo” (conocidas como model capabilities), y pide a los investigadores de la IA que reflexionen profundamente sobre la cuestión. El ingeniero también señaló que “aceptar esta carrera e ingresar en el endgame es una apuesta soberbia que no debería lanzarse desde el Slack de una empresa privada”.
La renuncia de Coxon y sus declaraciones han generado un intenso debate en la comunidad tecnológica y científica sobre los riesgos reales de la inteligencia artificial avanzada. Mientras algunos expertos consideran que las advertencias son exageradas y acientíficas, otros reconocen que la carrera descontrolada por desarrollar sistemas cada vez más potentes sin garantías de seguridad adecuadas podría tener consecuencias impredecibles para la humanidad.
Deja una respuesta