Cibercriminales e IA son una combinación peligrosa que crece cada día. La inteligencia artificial ha pasado de ser una herramienta útil a un objetivo para ataques cibernéticos. Estos criminales buscan clonar modelos de IA y usar su tecnología para lanzar ataques más sofisticados. En este artículo, exploramos cómo se utiliza la IA en el mundo del cibercrimen y sus implicaciones para la seguridad digital.
**Aumento de Ataques a Modelos de IA**
Los ataques a modelos de inteligencia artificial han aumentado notablemente. Esto incluye los ataques de destilación, donde los cibercriminales intentan extraer información de modelos de IA generativa. Al obtener esta información, buscan clonar los modelos y replicar su funcionalidad. Según el informe ‘AI Threat Tracker’ de Google Threat Intelligence Group (GTIG), este fenómeno se ha vuelto común entre los atacantes.
**Objetivos de los Ataques**
Los atacantes buscan entender el razonamiento subyacente de los modelos de IA. Este conocimiento les permite replicar el proceso de pensamiento de la IA. Un objetivo específico mencionado es la capacidad de razonamiento del modelo Gemini. Capturar esta capacidad es clave para llevar a cabo ataques más efectivos y difíciles de detectar.
**El Ciclo de Vida del Ataque**
La inteligencia artificial se utiliza en diversas etapas del cibercrimen. Desde la codificación de scripts hasta la recopilación de información sobre objetivos. Esto incluye investigar vulnerabilidades y habilitar actividades tras compromisos exitosos. La IA permite a los cibercriminales ser más eficientes y efectivos en sus ataques.
**Actores Respaldados por Gobiernos**
Grupos de amenazas respaldados por gobiernos están usando la IA para sus fines. Por ejemplo, APT42, vinculado a Irán, utilizó modelos de IA generativa. Buscó correos electrónicos oficiales y realizó investigaciones sobre socios comerciales. Esto les permitió establecer pretextos creíbles para sus campañas de ataque.
**Uso de Gemini por Cibercriminales**
UNC2970, un grupo relacionado con Corea del Norte, también ha utilizado la tecnología de Gemini. Este grupo sintetiza información de fuentes abiertas (Osint) para perfilar objetivos de alto valor. Esto les ayuda en la planificación de campañas y en el reconocimiento de sus objetivos.
La relación entre cibercriminales e IA es cada vez más peligrosa. La tecnología que puede beneficiar a la sociedad también puede usarse para el mal. Es esencial que tanto individuos como organizaciones comprendan estos riesgos y estén preparados para actuar.
Fuente original: eldinero.com.do
