Dario Amodei, CEO de Anthropic, una de las firmas más influyentes en el campo de la inteligencia artificial, ha emitido una contundente advertencia sobre los profundos Riesgos de la IA avanzada para la seguridad global y la infraestructura financiera. En su reciente ensayo ‘Policy on the AI Exponential’, publicado el 10 de junio, Amodei detalla cómo modelos como Mythos Preview poseen la capacidad intrínseca de desestabilizar sectores críticos, una declaración que cobra especial relevancia tras el lanzamiento de Claude Fable 5 con restricciones específicas en ciberseguridad.
El ejecutivo de Anthropic enfatiza que los peligros asociados a estos modelos frontera no son meras especulaciones teóricas, sino una realidad palpable que ya ha comenzado a manifestarse. Su argumentación sostiene que el panorama de la ciberseguridad global ya ha sido irrevocablemente alterado, lo que convierte a estos desarrollos tecnológicos en herramientas de ‘consecuencia estratégica nacional’. La autoridad de estas afirmaciones radica en el rol de Anthropic como actor principal en el diseño de futuros marcos regulatorios a nivel mundial, lo que confiere un peso innegable a sus alertas.
Una prueba fehaciente de la magnitud de estos riesgos se reveló a través de Project Glasswing, un programa restringido mediante el cual Anthropic distribuyó Mythos Preview. Este proyecto permitió identificar más de 10.000 vulnerabilidades de severidad alta o crítica en software fundamental para la infraestructura sistémica global. Entre las entidades afectadas figuraron gigantes tecnológicos como Cloudflare, Mozilla, Microsoft, Oracle y Palo Alto Networks, además de instituciones bancarias y otras infraestructuras críticas, evidenciando la amplitud y profundidad de la amenaza.
Frente a este escenario, Amodei propone un modelo regulatorio de carácter vinculante, inspirándose en la Administración Federal de Aviación (FAA) de Estados Unidos. Bajo este esquema, los modelos de IA que superen ciertos umbrales de cómputo estarían sujetos a auditorías obligatorias por parte de terceros en áreas tan sensibles como la ciberseguridad, las armas biológicas, la potencial pérdida de control de los sistemas de IA y el desarrollo automatizado que pudiera acelerar cualquiera de estos peligros inherentes.
La propuesta de Anthropic otorga al gobierno la potestad de bloquear o revertir el despliegue de cualquier modelo que presente un riesgo inaceptable en las categorías antes mencionadas. Asimismo, impone a las empresas desarrolladoras la responsabilidad de proteger los pesos de sus modelos, realizar pruebas de penetración periódicas y reportar de manera inmediata cualquier incidente crítico a las autoridades competentes. Esta postura marca una evolución significativa para la compañía, que anteriormente había apoyado marcos de transparencia de carácter voluntario hasta 2025.
A escala geopolítica, Amodei subraya la necesidad imperativa de que las democracias coordinen sus ciberdefensas basadas en IA y compartan inteligencia de forma proactiva para contrarrestar usos maliciosos. Su analogía de una nación equipada con IA avanzada frente a otra sin ella como un ‘ejército moderno frente a uno medieval’ ilustra la crítica brecha estratégica que esta tecnología puede generar, instando a una colaboración internacional sin precedentes para salvaguardar la estabilidad global.
Finalmente, el CEO de Anthropic advierte que los riesgos cibernéticos ya evidenciados por Mythos Preview no representan el culmen de las amenazas, sino el punto de partida. Anticipa que peligros de índole biológica, derivados de modelos de próxima generación, podrían materializarse en un futuro cercano. Por consiguiente, la regulación propuesta hoy, aunque robusta, deberá ser lo suficientemente ágil y adaptable para escalar al mismo ritmo vertiginoso que la propia evolución tecnológica, garantizando una protección continua ante desafíos emergentes.Si le ha parecido interesante este análisis, le invitamos a compartirlo y a dejar su opinión en los comentarios.