La ciberseguridad atraviesa un momento de especial tensión por el avance de la inteligencia artificial y por nuevos modelos capaces de realizar tareas cada vez más complejas.
Así lo explicó Chema Alonso, quien describió el escenario actual como una “tormenta perfecta” y aseguró: “No ha habido más tensión en ciberseguridad nunca desde que yo conozco el mundo tecnológico”.
Según el especialista, el cambio se produjo especialmente con la llegada de los llamados modelos de deep reasoning, capaces de analizar problemas complejos y encadenar diferentes acciones.
Ese avance modificó el equilibrio entre quienes buscan vulnerabilidades y quienes deben proteger los sistemas. Para Alonso, la preocupación no se limita a que una inteligencia artificial pueda encontrar un error.
El punto que considera especialmente relevante es que estos modelos también pueden explotar vulnerabilidades de manera consistente, incluso a partir de una única instrucción.
Alonso explicó que los atacantes cuentan ahora con herramientas capaces de descubrir vulnerabilidades, realizar pentesting y, especialmente, explotarlas. También señaló que existen agentes capaces de realizar procesos completos de red teaming.
Según relató, en competiciones de hackers ya resulta muy difícil competir contra agentes de inteligencia artificial especializados en estas tareas porque pueden ejecutar los procesos de manera automatizada.
El escenario puede ser todavía más complejo cuando esos sistemas se combinan con malware. Alonso mencionó investigaciones sobre gusanos asistidos por modelos de lenguaje capaces de identificar vulnerabilidades según el objetivo, explotar el sistema y generar malware específico para distintos sistemas operativos o dispositivos.
Para el especialista, este avance obliga a replantear la seguridad informática desde sus bases. Las empresas, al mismo tiempo, no pueden renunciar a utilizar inteligencia artificial porque hacerlo implicaría perder ventajas tecnológicas frente a sus competidores.
Alonso señaló que los modelos actuales presentan problemas conocidos, entre ellos jailbreaks, prompt injection, desalineamiento, alucinaciones y filtraciones de datos.
El problema aparece cuando una compañía incorpora esos modelos a sus propios sistemas. La empresa necesita utilizarlos, pero también debe asumir que las herramientas que está incorporando tienen vulnerabilidades que pueden ser aprovechadas.
“Estamos en la tormenta perfecta”, resumió Alonso al explicar la situación de los responsables de seguridad de las empresas. Según su visión, los CISO tienen que reconstruir buena parte de sus estrategias porque las herramientas tradicionales ya no alcanzan para proteger un ecosistema en el que todos los componentes están conectados.
El especialista comparó la situación con un “Frankenstein Collage”: durante años, los responsables de seguridad fueron sumando productos de distintos proveedores para cubrir diferentes necesidades, desde firewalls y VPN hasta sistemas de monitoreo.
Con la inteligencia artificial, en cambio, la protección necesita una integración mucho mayor entre esos componentes. Para Alonso, ahí está otra de las grandes dificultades que enfrentan actualmente los equipos de seguridad.
A pesar del escenario, Alonso también destacó que la inteligencia artificial puede utilizarse para defender los sistemas. Uno de los principales objetivos, según explicó, es acelerar el parcheo de vulnerabilidades mediante IA.
También mencionó el uso de herramientas de inteligencia artificial durante el desarrollo de software para incorporar requisitos de seguridad desde el comienzo y evitar que los sistemas acumulen una “deuda cognitiva” en su núcleo tecnológico.
Además, explicó que en su actual trabajo en Cloudflare utilizan inteligencia artificial para analizar el enorme volumen de tráfico que atraviesa su red y detectar amenazas.
Comentarios