La empresa tecnológica Anthropic ha decidido posponer el lanzamiento de su nuevo modelo de inteligencia artificial, llamado Claude Mythos Preview, por considerarlo demasiado peligroso para el público.

Según la compañía, el sistema es capaz de detectar vulnerabilidades críticas en sistemas operativos y navegadores, capacidades que podrían ser utilizadas con fines maliciosos.

Un sistema capaz de encontrar fallos graves

Durante las pruebas, el modelo demostró habilidades sorprendentes. En uno de los experimentos, logró superar restricciones de un entorno virtual seguro y enviar mensajes desde su interior.

También fue capaz de identificar errores críticos en el sistema Linux, utilizado en la mayoría de los servidores del mundo, e incluso combinar múltiples fallos para simular el control total de un sistema.

En otro caso, descubrió una vulnerabilidad de 27 años en OpenBSD.

Uso limitado en un programa de seguridad

En lugar de lanzarlo al público, Anthropic utilizará el modelo dentro de un programa restringido de ciberseguridad llamado Project Glasswing.

Este proyecto contará con la participación de grandes empresas tecnológicas como Amazon Web Services, Apple, Google, Microsoft, Nvidia y Cisco.

El objetivo será utilizar esta tecnología para detectar vulnerabilidades y reforzar la seguridad informática

Preocupación a nivel gubernamental

La empresa también ha confirmado conversaciones con autoridades de Estados Unidos, ya que el desarrollo de este tipo de sistemas podría tener implicaciones para la seguridad nacional.

Un adelanto de lo que viene

El director ejecutivo de Anthropic, Dario Amodei, advirtió que otras compañías podrían desarrollar tecnologías similares en un plazo de 6 a 18 meses.

Expertos en ciberseguridad señalan que la industria debe prepararse para un futuro en el que las IA puedan detectar y explotar vulnerabilidades a gran escala.

Conclusión

El caso de Claude Mythos Preview muestra tanto el enorme potencial como los riesgos de la inteligencia artificial avanzada. Su desarrollo plantea una pregunta clave: ¿cómo equilibrar la innovación con la seguridad en un mundo cada vez más digital?