Ante este panorama, MIT Technology Review, el portal de publicaciones del Instituto Tecnológico de Massachusetts, ha elaborado una lista con cinco casos en los que la inteligencia artificial ha hecho las estafas más sofisticadas.

El principal uso de la IA generativa entre los delincuentes en la actualidad es el phishing, una práctica que busca engañar a las personas para obtener información sensible con fines maliciosos. Según MIT Technology Review, los investigadores han observado un aumento significativo en los correos electrónicos de phishing tras el auge de ChatGPT.

Aunque las políticas de OpenAI prohíben el uso de sus productos para actividades ilegales, resulta complicado controlarlo en la práctica, ya que muchos mensajes que parecen inocentes pueden ser utilizados con fines maliciosos.

La IA generativa ha impulsado el avance en la creación de deepfakes, logrando que las imágenes, videos y audios sintéticos sean más realistas que nunca, lo que ha captado la atención de los ciberdelincuentes.

A principios de 2024, un empleado en Hong Kong fue víctima de una estafa en la que perdió 25 millones de dólares después de que los delincuentes utilizaran un deepfake del director financiero de su empresa para persuadirlo de transferir el dinero a la cuenta del estafador.
Otra forma en que los ciberdelincuentes están utilizando los deepfakes es para evadir los sistemas de verificación de identidad.

Estas herramientas funcionan proporcionando documentos de identidad falsos o robados y superponiendo una imagen deepfake sobre el rostro de una persona real, engañando así al sistema de verificación de la cámara del dispositivo.

Si se le pregunta a la mayoría de los sistemas de IA cómo fabricar una bomba, la respuesta no será útil. Esto se debe a que las empresas responsables de desarrollar inteligencia artificial han implementado diversas salvaguardias para impedir que sus modelos proporcionen información peligrosa o dañina.
Crear modelos de IA sin estas protecciones resulta costoso, complejo y laborioso, por lo que los ciberdelincuentes han adoptado una nueva estrategia: el jailbreak como servicio.
Sin embargo, el jailbreaking permite a los usuarios manipular el sistema para obtener resultados que infringen estas políticas, como la generación de código para ransomware o la creación de textos destinados a fraudes por correo electrónico.
Los modelos de lenguaje de IA no solo son útiles para el phishing, sino también para actividades como el doxxing, que consiste en revelar información privada e identificable de una persona en línea.
Un ejemplo de cómo esto funciona sería solicitar a un chatbot que se hiciera pasar por un investigador privado experto en la elaboración de perfiles.
Luego, se le podría pedir que analice el texto escrito por la víctima para deducir datos personales a partir de pistas sutiles en su redacción, como su edad en función de cuándo asistió a la escuela secundaria, o su lugar de residencia según los puntos de referencia que menciona en su ruta al trabajo.

Fuente: telam