El Commonwealth Bank de Australia ha creado sus propias herramientas de detección de amenazas de IA porque los proveedores han tardado demasiado en desarrollar herramientas que puedan hacer frente a nuevas amenazas impulsadas por la IA, dijo el gerente general de Operaciones de Defensa Cibernética, Andrew Pade.
Hablando en la Cumbre de Gestión de Riesgos y Seguridad de la firma de analistas Gartner en Sydney el martes, Pade dijo que se unió al banco hace seis años cuando registraba 80 millones de señales de amenazas por día. Esa cifra ahora supera los cuatro mil millones y dijo que la IA es una de las razones del crecimiento.
Pade dijo en el evento que el banco investigó ataques como correos electrónicos y sitios web de phishing, y encontró el mismo código (a veces incluyendo artefactos claros de herramientas de codificación de IA) en muchos ataques diferentes.
“El atractivo ha cambiado, pero el trasfondo sigue siendo el mismo”, afirmó. Desde la llegada de la IA, el volumen de ataques detectados por el banco también ha aumentado.
“Cuando me uní (hace seis años), hacíamos 80 millones de señales por semana”, dijo Pade. «La semana pasada fueron 400 mil millones».
«No se puede resolver eso con la ciberdefensa tradicional».
A Pade le preocupa que la magnitud de las amenazas también acabe con su carrera. Dijo que el banco ahora contrata graduados con habilidades en ciberseguridad, un cambio con respecto a su propia carrera, donde los trabajadores de TI que iniciaban su carrera comenzaron en el servicio y aprendieron sobre seguridad de la información en el trabajo. Dijo que los graduados en seguridad cibernética ahora estaban entrando en un entorno de alta presión que planteaba un desafío para la salud mental.
«Una de las cosas que realmente me preocupa es sacarlo de la mesa», dijo Pade.
«Quería que nuestros analistas de primer nivel accedieran al mismo conocimiento que tiene nuestro personal superior, de la forma más rápida posible», añadió. «Ese fue el punto de inflexión: ¿Cómo puedo quitar la balanza de la mesa y cómo me aseguro de que todos nuestros agentes estén trabajando en cibernética dentro de 20 años» en lugar de agotarse?
La respuesta del banco fue construir su propia herramienta de inteligencia artificial basada en agentes que ingiera información sobre amenazas de fuentes como investigaciones emergentes, la analice utilizando los propios datos del banco e identifique amenazas que podrían representar un riesgo para sus activos en expansión de sistemas heredados, infraestructura local, SaaS y cargas de trabajo en la nube.
Pade dijo que crear esa herramienta es necesario porque los proveedores de seguridad de la información no pueden mantenerse al día con las nuevas amenazas y el banco no puede esperar por un producto. Dijo que anteriormente el banco necesitaba dos días para evaluar la gravedad de las nuevas amenazas emergentes y preparar una hipótesis sobre los riesgos que representan. El agente lo hace en 30 minutos y elabora informes.
- El banco revocó la decisión de sustituir a 45 agentes de atención al cliente por un chatbot con IA
- Los delincuentes dan dinero para acosar a los destinatarios al describir transacciones abusivas en extractos bancarios
- Pérdida de datos de Commbank: la no divulgación fue bastante razonable
- Commonwealth Bank: el software holgado nos hizo perder el lavado de dinero
«La IA no es determinista», afirmó Pade. «Así que tuvimos que encontrar una manera de poner los puntos deterministas en un flujo no determinista. Fue un verdadero cambio de mentalidad para nuestros equipos rojos».
El banco ahora intenta asignar resultados deterministas a los ataques, de modo que sus agentes puedan hacer predicciones repetibles.
El desarrollo de agentes resultó complicado. Pade dijo que su equipo contó con la ayuda de los científicos de datos del banco porque ya son expertos en la creación de aplicaciones de IA que, según él, representan «IA real» en lugar de «automatización con esteroides».
Su primer intento de crear una herramienta para los equipos de seguridad de la información del banco «no resolvió el problema», admitió Pade. Una vez que los oficiales de seguridad trabajaron junto con los científicos de datos, surgió una herramienta útil.
«Dejar el problema por encima de la valla y esperar una solución no era la solución», afirmó Pade. «Ellos conocían la IA, nosotros conocíamos el resultado. Las personas más cercanas a tu problema son las mejores para resolverlo».
El jefe de seguridad dijo que el banco ahora estaba «aprendiendo cómo integrar la IA para eliminar la monotonía de nuestros días» y sugirió que todas las organizaciones deberían hacer lo mismo, ya que la IA significará que los ciberdelincuentes podrán escalar la escala de sus ataques a nuevas alturas.
«Vas a ver ataques como el nuestro, te guste o no», dijo. “Les preguntaría a sus equipos: ‘¿Cómo solucionamos ese problema?’” ®
