En una entrevista ante los alumnos de la Escuela de Negocios de Stanford, el fundador de OpenAI no se ha cortado al expresar su desasosiego sobre el terrible impacto que la IA tendrá en el ámbito de la ciberseguridad. El potencial y la velocidad de ataque de los agentes de IA que hemos visto en los casos de "agentes díscolos" de OpenAI que se saltaban las medidas de seguridad, es solo es una pequeña muestra.
Lo que se avecina. Altman admitió que ni siquiera sabía qué palabra sería "lo bastante dramática para describir el problema que se nos viene encima" para subrayar la importancia del impacto que la IA supone para ciberseguridad. Para él, la llegada de los agentes de IA al ámbito de la seguridad informática es "algo que no hemos tomado en serio, ni como líderes de organizaciones, ni como países, ni como individuos".
El CEO de OpenAI recordó el sobresalto que supuso el bloqueo de Mythos, el modelo de Anthropic dentro de Project Glasswing, que encontró 10.000 vulnerabilidades de seguridad graves en menos de un mes. Según Altman, se arreglaron algunos de aquellos fallos, pero la gente "no intuyó realmente la exponencial" importancia del camino que les había mostrado Mythos.
Rápidos, creativos, letales. Entre el 9 y el 13 de julio, agentes de OpenAI que hacían pruebas de seguridad acabaron dentro de Hugging Face. Como recoge el INCIBE, se registraron unas 17.600 acciones protagonizadas por estos agentes de IA.
