Las capacidades en ciberseguridad de la IA son un arma de doble filo: por un lado, están ayudando a identificar y corregir brechas existentes en el código de los sistemas de importantes empresas de la industria, en muchos casos desconocidas para los equipos humanos, además de reforzar las medidas de detección, bloqueo y mitigación frente a ataques.
Por otro, esas mismas capacidades se utilizan para automatizar, perfeccionar y acelerar los ataques, y con el salto a la IA agéntica, es la propia IA la que pone en riesgo los sistemas con una actuación autónoma que ya se ha visto en el caso de OpenAI y Hugging Face.
Precisamente, ante la amenaza que suponen para la sociedad en general los ataques impulsados por IA, más de cien empresas, entre las que se encuentran OpenIA, IBM, Google, CrowdStrike, Cloudflare, Xbox, AWS, Cisco, Dell, NTT DATA y Check Point, han hecho un llamamiento a "todas las organizaciones, empresas de ciberseguridad, socios tecnológicos, gobiernos y empresas líderes en IA", para reducir el riesgo ahora que todavía se está a tiempo.
El objetivo es dar una respuesta colectiva que permita "acelerar las prioridades de los defensores con herramientas, financiación y apoyo práctico, especialmente para las organizaciones de infraestructuras críticas con presupuestos limitados".
Para ello, entienden que es "fundamental" reconocer que la seguridad como se entendía hasta ahora ha quedado obsoleta, y que los sistemas, especialmente los críticos, no pueden permitirse "errores persistentes, permisos excesivos, configuraciones incorrectas, software inseguro y sin parchear, autenticación débil y deuda técnica en sistemas heredados".
También consideran que el papel de IA para la defensa es clave, ya que esta tecnología "hace que las tareas de seguridad esenciales sean más rápidas, económicas y eficaces", pero inciden en la necesidad de compartir "herramientas, conocimientos prácticos y soluciones verificadas" para que muchas más organizaciones puedan beneficiarse de la protección.
Y, dado que "las capacidades cibernéticas están avanzando a nivel mundial", se requiere "una respuesta global", con nuevas alianzas que contribuyan a "elevar los estándares de seguridad y encontrar nuevas soluciones a las amenazas cibernéticas emergentes".
"Corrijamos las vulnerabilidades más peligrosas, verifiquemos las soluciones y compartamos las que funcionan para que otros puedan aprovecharlas. Juntos, podemos convertir los avances actuales en IA en mejoras duraderas en la seguridad que beneficien a todos", concluyen en la carta abierta.
