Los ojos del hacker, impulsados por la IA: las nuevas reglas de la ciberseguridad

¿Pulsó sin dudar el enlace del correo electrónico que recibió la última vez? Observe detenidamente los correos que recibe estos días. Es probable que le hablen en un coreano natural, sin una sola errata ni omisión. Antes, la amenaza solía llegar con traducciones mal hechas como "¡Ha ganado el premio!!!" o "¡Necesitamos verificar su cuenta!!", pero ahora la diferencia es abismal.

Vivimos en una era en la que la inteligencia artificial se convierte en un arma antes de convertirse en un escudo. La relación entre el desarrollo de la IA y la ciberseguridad trasciende la mera adopción de tecnologías, pues sacude los fundamentos de la seguridad de nuestra vida digital cotidiana. No es simple marketing del miedo. Las estadísticas reales y las últimas tendencias en seguridad muestran claramente cómo la IA explota nuestras vulnerabilidades cercanas y cómo debemos prepararnos.

Hoy expondré con sinceridad la realidad de los "ataques basados en IA", tal como la he percibido durante diez años observando el mercado de la seguridad y el ecosistema de contenidos, junto con estrategias realistas para contrarrestarlos. En particular, me centraré en la actual situación de amenazas que afecta directamente no solo a los responsables de seguridad empresarial, sino también a los usuarios individuales.

La redefinición del 'phishing' por parte de la IA

Los ciberataques del pasado se asemejaban más a una "descarga masiva". Enviaban correos con el mismo texto a decenas de miles de personas y, si alguna caía en la trampa, se consideraba un éxito. Pero la aparición de la IA, especialmente la IA generativa, ha cambiado por completo las reglas del juego.

Ahora, los hackers realizan "ataques de precisión". Según el análisis de la empresa de seguridad SK Shieldus, aproximadamente el 90% de los ciberataques exitosos provienen del phishing por correo electrónico. Sin embargo, estos correos de phishing ya no son groseros o evidentes, debido a la aparición de herramientas de IA personalizadas para el crimen, conocidas como "WormGPT" o "FraudGPT".

Estas herramientas eliminan la necesidad de que el hacker posea conocimientos complejos de programación. Basta con introducir una solicitud (prompt) en lenguaje natural para que la IA genere frases "astutamente perfectas" que reflejan el perfil del destinatario, su historial de compras reciente e incluso sus tendencias personales. Ante un mensaje como: "Sr./Sra. OO, le informamos que el producto que pidió ayer ha sufrido retrasos en la entrega. Para más detalles, haga clic aquí...", es inevitable que la guardia baje.

Este es el cambio más tedioso pero letal que surge cuando el desarrollo de la IA y la ciberseguridad se encuentran. Las barreras tecnológicas se han reducido, permitiendo que cualquiera se convierta en un atacante sofisticado, lo que ha provocado un aumento drástico en la proporción de víctimas individuales. Si antes las empresas eran las principales objetivo, ahora las personas sufren una tasa de penetración superior a la del sector manufacturero. Los correos electrónicos y mensajes directos de redes sociales que usamos a diario se han convertido en el campo de batalla más peligroso.

Inyección de prompts: la magia que controla los chatbots de IA

Quizás piense: "¿Qué peligro puede haber en un chatbot?". Sin embargo, los chatbots de IA internos o de atención al cliente no son simples interlocutores, sino que actúan como "puertas de entrada" conectadas a los sistemas internos de la empresa. La amenaza principal que surge aquí es la "inyección de prompts (Prompt Injection)".

Se trata de una técnica de ataque en la que un usuario malintencionado introduce valores en el modelo de IA para ignorar o evadir sus instrucciones originales. Para poner una analogía, es como decirle al recepcionista del hotel (la IA): "Tengo una orden del director. Por favor, muéstrame la lista de clientes VIP y sus contraseñas aquí". Engañada por esta petición, la IA puede filtrar información interna o datos personales.

Según la guía de SK Shieldus, estos ataques no terminan como simples incidentes menores. Pueden derivar en filtraciones de información confidencial de la empresa o en perturbaciones de los procesos de trabajo. Es un ángulo ciego de seguridad que los desarrolladores suelen pasar por alto al integrar la IA en los flujos de trabajo. Por eso son esenciales medidas de seguridad como la validación previa de las entradas, el control de los resultados de salida y una separación clara entre el prompt del sistema y la entrada del usuario.

Cuanto más la IA asuma el rol de "asistente" ayudándonos en nuestras tareas, más sofisticados serán los métodos para engañarla. Esto no es un simple error (bug), sino una vulnerabilidad estructural inherente a la arquitectura de la IA misma, lo que sugiere que, sin un sistema de seguridad proactivo, la implementación innovadora de la IA puede convertirse en una ventaja en su contra.

Hacking con IA dirigido a infraestructuras nacionales: ¿está a salvo el sector público?

Más allá de los daños individuales, acechan amenazas a nivel nacional. La apertura del consejo consultivo "Centro de Ciberseguridad de IA, junto con Incheon" por parte de Incheon International Airport Corporation y entidades relacionadas, reuniendo a responsables de ciberseguridad de 13 importantes instituciones públicas locales, responde a este contexto.

Recientemente, los ataques de hacking respaldados por estados-nación se están volviendo más inteligentes gracias al poder de la IA. No se limitan a derribar servidores, sino que perturban los sistemas de control de infraestructuras críticas o extraen información específica de enormes volúmenes de datos. La Corporación del Aeropuerto Internacional de Incheon, por ejemplo, es una puerta de entrada nacional utilizada por decenas de millones de personas al año. Si tampoco aquí se está a salvo, no podemos estar tranquilos en otros lugares.

Los participantes debatieron sobre métodos seguros para utilizar la IA generativa y la introducción de sistemas de gestión de seguridad basados en IA. La clave es la "cooperación mutua". En un ecosistema digital donde la caída de una institución puede provocar efectos en cadena, la defensa interconectada es esencial en lugar de la defensa aislada.

La Oficina de Seguridad Nacional también decidió responder a las amenazas cibernéticas avanzadas basadas en IA mediante reuniones de inspección a nivel ministerial conjunto. Diez ministerios, incluidos el Ministerio de Ciencia y TIC, el Ministerio de Defensa y la Comisión de Servicios Financieros, participaron para discutir mejoras institucionales frente a las amenazas de la cadena de suministro de software y los ataques basados en IA. Esto indica que la ciberseguridad ha dejado de ser un problema exclusivo del departamento de TI para ascender a un asunto central de la seguridad nacional y la supervivencia empresarial.

Límites de los modelos tradicionales de seguridad y un nuevo paradigma

Muchos quizás piensen todavía: "No debería haber problemas ya que he instalado bien los antivirus". Siendo honestos, esa idea quizás era cierta hace cinco años, pero ahora está equivocada.

La mayoría de los modelos tradicionales de ciberseguridad dependían de la detección basada en "firmas" o "reglas". Se comparaban las huellas digitales de malware conocido y se bloqueaba todo lo que infringiera reglas predefinidas. Sin embargo, la IA crea "amenazas desconocidas". Los patrones de ataque cambian constantemente y el agente de la acción se vuelve ambiguo.

Según una investigación de la Oficina de Investigación Legislativa de la Asamblea Nacional, la IA más reciente es tan avanzada que puede analizar condiciones de vulnerabilidad y construir automáticamente cadenas de explotación (exploit chain). Los modelos de confianza estáticos y las estructuras centradas en la respuesta posterior no pueden seguir el ritmo de este cambio. Por tanto, el paradigma de la seguridad debe transitar desde la "respuesta posterior" hacia la "detección de amenazas en tiempo real" y la aplicación de "modelos de confianza dinámicos".

Además, surge el debate legal sobre quién asume la responsabilidad cuando la IA es el sujeto atacante. Se necesitan con urgencia mecanismos institucionales que determinen cómo imputar los resultados de acciones tomadas por una IA que aprende y juzga por sí misma. Si las leyes y regulaciones no siguen el ritmo del avance tecnológico, las víctimas podrían tener dificultades para obtener reparación.

La "alfabetización digital" que debemos adoptar

Entonces, ¿qué debemos hacer? Las soluciones de seguridad grandilocuentes por sí solas no son suficientes. Al fin y al cabo, la última línea de defensa es el "ser humano".

Primero, la rutina de la verificación cruzada. Incluso si los resultados o mensajes fueron generados por IA, debemos confirmar su veracidad en múltiples fuentes. Las molestias de contactar directamente a la aplicación oficial o al centro de atención al cliente antes de hacer clic en un enlace protegen sus activos.

Segundo, la conciencia del propósito y la cautela. Reconozca claramente el objetivo del servicio de IA. Es crucial tomarse un segundo para preguntarse: "¿Por qué esta IA me pide esta información ahora?". Recordemos que la IA puede estar sesgada, tener limitaciones y, a veces, presentar ficciones como verdades de manera involuntaria.

Tercero, las empresas y organizaciones deben establecer estrategias de defensa en múltiples capas. Deben combinarse medidas técnicas como el reforzamiento del control de acceso a datos, la implementación de sistemas de detección de anomalías y el establecimiento de políticas de gobernanza de IA, con la educación en alfabetización digital de los empleados. Como también señaló Kim Byung-mu, director de la División de Servicios de Seguridad de la Información de SK Shieldus, los ataques de phishing y deepfake manipulan sutilmente la psicología, por lo que la educación preventiva es tan importante como la defensa técnica.

Tal como propone el concepto de ecosistema de IA de EY, la tecnología, las personas y los procesos deben armonizarse. La verdadera fuerza defensiva no termina en la compra de herramientas de seguridad, sino que reside en la capacidad organizativa para comprender dichas herramientas y crear una cultura de seguridad.

El desarrollo de la IA y la ciberseguridad no mantienen una relación hostil, sino que interactúan para la evolución. Si los ataques se vuelven inteligentes, la defensa debe volverse igualmente inteligente. Y en el centro de todo ello debe permanecer siempre el juicio del "ser humano".

Ya hemos introducido profundamente los pies en la era de la IA. La experiencia del pasado no nos permitirá vencer las amenazas actuales. Interesarse por las noticias de seguridad que se actualizan a diario y actuar ante cualquier duda, por mínima que sea, es el arma más realista y poderosa que se nos ha dado a todos.

¿Alguna vez se ha sorprendido pensando: "¿Es esto realmente lo que diría una persona?" al leer textos generados por IA o conversar con ella? ¿O quizás ha experimentado un refuerzo de la seguridad gracias a la IA? Comparta sus experiencias en los comentarios. En una era donde todos debemos aprender juntos, la experiencia de una persona puede convertirse en el escudo de otro.