Presencié cómo usaban inteligencia artificial para copiar la voz de un CEO y engañar a su empresa.

En la era actual de avances tecnológicos, la inteligencia artificial ha demostrado ser una herramienta poderosa, pero también plantea desafíos éticos y de seguridad. La noticia titulada Presencié cómo usaban inteligencia artificial para copiar la voz de un CEO y engañar a su empresa revela un preocupante incidente donde se empleó esta tecnología para imitar la voz de un CEO con precisión, llevando a cabo un engaño empresarial de proporciones inquietantes. Este acontecimiento pone de manifiesto la vulnerabilidad de las organizaciones ante posibles ataques de suplantación de identidad utilizando herramientas avanzadas como la inteligencia artificial. Es crucial que las empresas refuercen sus protocolos de seguridad y conciencien a sus empleados sobre las amenazas digitales que pueden surgir en este nuevo panorama tecnológico.

Deepfakes y la Clonación de Voz con Inteligencia Artificial

Deepfakes: la amenaza de la clonación de voz con inteligencia artificial revelada en ponencia

Recogiendo una ponencia de la RootedCON 2024 verdaderamente curiosa e ilustrativa, se evidencia la realidad actual en todo el mundo en cuanto a la inteligencia artificial utilizada con fines maliciosos. Los deepfakes están adquiriendo gradualmente una gran notoriedad, pero no precisamente positiva.

Estas imágenes, vídeos y voces creadas por inteligencia artificial pueden ser empleadas para difundir desinformación, engañar en campañas publicitarias o incluso en actividades delictivas. Es precisamente en el arte de la clonación de voz en el que la ponencia ha puesto su enfoque.

El peligro de los deepfakes: cómo se usó IA para engañar a empresa financiera

El auge de la clonación de voz con inteligencia artificial ha abierto nuevas puertas para los estafadores en el mundo digital. Cada vez más, los ciberdelincuentes se valen de herramientas basadas en IA para perpetrar fraudes complejos, como el caso en Hong Kong donde se empleó la tecnología deepfake para engañar a una empresa financiera.

En esta ocasión, los estafadores utilizaron audios y vídeos generados por inteligencia artificial para hacerse pasar por el director financiero y otros compañeros durante una videoconferencia, logrando que un empleado transfiriera una gran cantidad de dinero a una cuenta fraudulenta.

Los expertos Antonio Fernandes y Daniel Fernández Martínez demostraron en su conferencia el uso de herramientas de IA para generar copias falsas de voces, como el caso en el que intentaron engañar a una empresa utilizando la voz del CEO de Zerolynx, Juan Antonio Calles.

La disponibilidad cada vez mayor de estas herramientas ha facilitado la realización de ataques con deepfakes, lo que representa una amenaza en la difusión de desinformación y la comisión de fraudes a gran escala.

Es crucial estar conscientes de las amenazas que plantean los deepfakes y prepararse para el futuro, ya que pronto podrían convertirse en una nueva realidad según Dmitry Anikin, científico de datos senior de Kaspersky.