La inteligencia artificial ha irrumpido en prácticamente todos los sectores de la economía, y la ciberseguridad no es la excepción. En 2024 esta tecnología sigue siendo emergente y su impacto en la automatización de tareas repetitivas es evidente; no obstante, en ciberseguridad, nos encontramos en un punto en el que la pregunta no es si la inteligencia artificial puede ayudar, sino si llegará a pensar críticamente para tomar decisiones complejas y estratégicas.

En los últimos años, se ha presenciado un crecimiento exponencial en sus capacidades, lo cual plantea interrogantes sobre su futuro en el campo de la seguridad cibernética. En un entorno donde los ciberdelincuentes están aprovechando estos avances para mejorar sus ataques, la industria no puede permitirse quedarse atrás; la lucha entre defensores y atacantes se ha convertido en una carrera armamentística en la que la tecnología juega un papel crucial. Pero ¿realmente puede alcanzar niveles de pensamiento crítico que la capaciten para tomar decisiones complejas sin la intervención humana?

Actualmente, su uso en este campo se limita a optimizar flujos de trabajo y analizar incidentes, proporcionando información sobre posibles vectores de ataque; aunque es útil, está lejos de ser una solución autónoma. El desarrollo del pensamiento crítico, es decir, la capacidad de analizar situaciones desde múltiples ángulos, prever resultados y sugerir las mejores opciones, aún es un objetivo lejano. Por ejemplo, imaginemos un escenario donde una empresa recibe un correo de phishing convincente, un sistema tradicional podría ser engañado fácilmente mientras que uno con habilidades avanzadas podría identificar anomalías, verificar la autenticidad de la solicitud y alertar a los equipos de seguridad.

El camino hacia una inteligencia artificial más avanzada no está exento de desafíos, y uno de los principales obstáculos es la falta de contexto en los modelos actuales. Para que la tecnología tome decisiones acertadas, necesita comprender no solo los datos que procesa sino también el contexto específico de la organización; además, es crucial mejorar la precisión de los algoritmos y la calidad de los datos para minimizar errores.

Los líderes en ciberseguridad deben tomar medidas para mejorar estas herramientas proporcionando un contexto adecuado y creando límites claros para evitar acciones imprevistas. La clave podría estar en desarrollar sistemas que no solo automaticen, sino que también piensen de manera crítica, convirtiéndose en aliados estratégicos en la defensa contra ciberataques cada vez más sofisticados.

Es entonces que, a medida que avanzamos hacia un futuro en el que esta tecnología podría desempeñar un papel más decisivo en la toma de decisiones, es fundamental que las organizaciones adopten enfoques preventivos para mitigar los riesgos. Asimismo, garantizar que los sistemas sean explicables y transparentes, junto con la implementación de sólidas medidas de seguridad para proteger las aplicaciones, es crucial. El camino hacia una ciberseguridad fortalecida por la inteligencia artificial está lleno de oportunidades: aunque parece un sueño, no estamos lejos de una tecnología que pueda desarrollar habilidades de pensamiento crítico. La pregunta ya no es si llegaremos, sino cuándo y cómo gestionaremos este avance para maximizar su potencial en la ciberseguridad.

1. Dark Reading. (n.d.). (2024). Critical thinking AI in cybersecurity: A stretch or a possibility? Dark Reading. Retrieved August 28, 2024, from https://www.darkreading.com/cybersecurity-operations/critical-thinking-ai-in-cybersecurity-a-stretch-or-a-possibility

2. The New Stack. (2024). Mitigating safety risks with AI-powered applications. The New Stack. Retrieved August 28, 2024, from https://thenewstack.io/mitigating-safety-risks-with-ai-powered-applications/

3. Tete, S. B. (2024). Threat modelling and risk analysis for large language model (LLM)-powered applications. arXiv. https://arxiv.org/abs/2406.11007