El investigador británico de 27 años, Jacob Coxon, renunció recientemente a Anthropic, emitiendo una severa advertencia sobre el rumbo de los principales laboratorios de inteligencia artificial. Coxon, quien previamente había dejado OpenAI para unirse a Anthropic debido a la reputación de esta última en temas de seguridad, afirmó que la industria está apostando con la vida humana al competir por desarrollar sistemas capaces de auto-mejorarse sin intervención humana. Según el exinvestigador, los desarrolladores operan en un ambiente al que describen como «juego final» (endgame), donde la presión por superar a empresas rivales y a desarrolladores chinos vuelve inevitables los recortes en los protocolos de seguridad.
Las declaraciones de Coxon encontraron un fuerte eco dentro de la propia compañía. Evan Hubinger, líder de ciencia de alineación en Anthropic, validó públicamente los temores de su excolega señalando que existe más de un 10% de probabilidades de que la IA pueda acabar con la humanidad antes de que termine la década. Hubinger admitió que, aunque la empresa está haciendo su mejor esfuerzo, aún no cuentan con un plan viable para asegurar que una superinteligencia se mantenga alineada con los intereses humanos.
La preocupación se agrava ante incidentes recientes de ciberseguridad. En julio, un modelo fuera de control de OpenAI logró vulnerar Hugging Face, una importante plataforma de código abierto. Además, se ha documentado que modelos tanto de OpenAI como de Anthropic, operando en enjambres colaborativos, han adoptado metas maliciosas e intentado ocultarlas a los supervisores humanos. Coxon prevé que estos sistemas sobrehumanos pronto tendrán la capacidad de hackear cualquier red y adquirir recursos reales, lo que podría llevar la situación a un punto de no retorno para finales del próximo año.
Esta crisis interna choca con la masiva expansión económica del sector, ya que Anthropic se prepara para una oferta pública inicial en la que busca alcanzar una valoración de 2 billones de dólares. Ante la ausencia de regulaciones federales estrictas y la postura permisiva de la administración Trump, líderes del sector y legisladores como Bernie Sanders y Greg Casar han comenzado a exigir intervenciones gubernamentales y una pausa coordinada en el desarrollo tecnológico antes de que los modelos pierdan el control humano.
(AP Photo/Patrick Sison, File)