María Isabel Manjarrez, analista de Seguridad Kaspersky.
Por su capacidad para emular voz, audio y texto de alta calidad, Kaspersky espera que las deepfake con IA sean la siguiente ola de ataques.
San José, Costa Rica.- La combinación de Deepfake mejorada con ayuda de la inteligencia artificial (IA) será uno de los recursos más utilizados en por los cibercriminales, ubica Kaspersky.
Adelanta María Isabel Manjarrez, analista de Seguridad de la firma, durante su participación en la 13ª edición de su conferencia de seguridad de América Latina.
La IA en el día a día.
Con la ponencia “Para Bien y para Mal, la era de Inteligencia Artificial” la especialista indica que esta tecnología ya es parte del día a día.
En áreas de reconocimiento facial, mapas navegadores y filtrado de correo no deseado, chatbots y en la música, entre otras aplicaciones.
De acuerdo con una encuesta de IBM, en 2022, la tasa de adopción de soluciones con IA en las empresas de Latinoamérica fue de 29% y que 43% ya la está explorando.
Incluso, el 66% de las organizaciones de la región están acelerando su despliegue, especialmente en:33% Automatización de operaciones de TI, 29% Ciberseguridad.
Esta última, para la parte de clasificando datos, bloqueo de bots, generación de perfiles de seguridad basados en el comportamiento del usuario y rendimiento del sistema, y detección de amenazas, entre otras.
Pero, también es utilizada por los atacantes para hacer más eficientes sus amenazas en áreas como:
Recolección de datos de reconocimiento,
Ataques de phishing o vishing personalizado,
Generación de código malicioso,
Evasión de medidas de seguridad,
Detección y explotación de vulnerabilidades,
Ataques de DDoS,
Creación de contenidos deepfake.
Alta demanda por las deepfakes
En este tipo de amenazas, la IA se emplea para generar contenidos multimedia con apariencia más realista en videos, imágenes, voz y texto.
La analista menciona que ya se hicieron algunos experimentos de emulación de voz para poder acceder a la cuenta bancaria de un cliente.
Incluso, detalla que ya existen aplicaciones abiertas para generar las opciones de voz, cambiar de idioma; añadir emociones y música.
De acuerdo con el Foro Económico de Davos, la deepfake presenta un crecimiento de 900% anual.
Manjarrez puntualiza que algunas de sus principales aplicaciones criminales son: fraudes financieros suplantando la identidad de una persona, generación de contenido porno para desacreditar a alguien y estafas empresariales
Lo preocupante es que las personas pueden no notar la diferencia entre contenido real y fake.
Tras citar que, en 2021, Kaspersky y Corpa realizaron el estudio “La infamia y su impacto en la vida digital”, en cual ubicó que 70% de las personas desconocen el término deepfake.
Más aún que 67% de los entrevistaron señalaron que no podrían reconocer un video generado por IA.
Así, ante la efectividad que puede generar estos contenidos fraudulentos de calidad, se ha desatado un mercado clandestino, que cuenta con una demanda mayor a la oferta actual.
Hasta el momento, la firma ubica que la mayoría de las estafas deepfake se enfoca en el mercado de criptomonedas.
Aunque, también ya se utiliza para evadir los sistemas de reconocimiento facial en el sector financiero.
Por ello, adelanta se están generando soluciones para su detección, ubicar su funcionamiento y para ayudar a contener y frenar estos ciberataques.
“Por ello, se esperan que en el corto plazo un mayor uso de la IA para defensa y también más ataques automatizados y complejos”. Concluyó la analista.