La expansión continua del uso de tecnologías avanzadas de inteligencia artificial y aprendizaje automático ha dado lugar a la aparición y propagación del fenómeno de los deepfakes, que conlleva varios riesgos, entre los que destacan la difamación y el descrédito, además del fraude financiero, los ataques económicos y cibernéticos, así como la desinformación y la dificultad para verificar la información.
Por otro lado, dos expertos del sector tecnológico confirmaron a «Al Ittihad» la existencia de factores clave para hacer frente a los deepfakes, siendo el más importante la utilización de las propias herramientas de inteligencia artificial para detectar y analizar contenido falso, además de aumentar la concienciación pública sobre la importancia de verificar el contenido antes de creer o compartirlo, así como documentar el contenido utilizando tecnologías como la huella digital o la firma digital para garantizar su autenticidad.
Detalladamente, el mundo ha experimentado en los últimos años una expansión continua en el uso de tecnologías avanzadas de inteligencia artificial y aprendizaje automático, lo que ha provocado la aparición y propagación del fenómeno de los deepfakes a nivel mundial.
Se denomina deepfake la creación de vídeos, grabaciones de audio o imágenes falsas de diferentes personas, de manera que parezcan realistas de una forma que resulta difícil de distinguir para el público, gracias a las capacidades de la inteligencia artificial para generar o modificar el contenido de un modo que se aproxime a la realidad.
Aunque estas tecnologías al principio se consideraban herramientas prometedoras que podrían aportar muchos beneficios en campos como el entretenimiento y la educación, su difusión y mal uso han dado lugar a numerosos riesgos y retos.
Entre los riesgos más destacados se encuentran la difamación y el descrédito, donde el contenido falso se utiliza para atacar directamente a individuos con el fin de perjudicarles o dañar su imagen ante el público.
Los riesgos también incluyen el fraude financiero, ya que a veces se explotan los deepfakes de voz para suplantar la identidad de responsables o personas conocidas y solicitar transferencias de dinero o ejecutar operaciones fraudulentas. Además, existen también los ataques económicos y cibernéticos, que incluyen perjuicios para las empresas mediante la creación de vídeos falsos destinados a menoscabar su credibilidad o afectar el valor de sus acciones, así como el uso de deepfakes de voz para obtener información confidencial.
Otros riesgos son la desinformación y la dificultad para verificar la información. La amplia difusión de esta tecnología ha dificultado la verificación de la autenticidad del contenido en las redes sociales, lo que aumenta la probabilidad de la propagación de noticias falsas y desinformación.
Aunque la inteligencia artificial es la base en la que se sustentan los deepfakes, al mismo tiempo proporciona herramientas para hacer frente a este fenómeno. Se puede utilizar para analizar y detectar contenido falso mediante mecanismos avanzados capaces de detectar sutiles inconsistencias en las imágenes, los vídeos y el audio que resultan difíciles de percibir a simple vista.
El experto en ciberseguridad, Imad Al-Hafar, afirmó: «El desarrollo de herramientas de inteligencia artificial ha contribuido a la mayor propagación de los deepfakes y los ataques cibernéticos, pero al mismo tiempo ha proporcionado las herramientas necesarias para hacerles frente y detectarlos, mediante sistemas técnicos y soluciones especializadas».
Añadió: «Las tecnologías de inteligencia artificial permiten detectar pequeños errores en las imágenes, los vídeos o los mensajes, como las inconsistencias en la iluminación de los vídeos o las imágenes, o el análisis de los movimientos faciales para identificar las diferencias entre los movimientos naturales y los falsos».
Al-Hafar subrayó que «uno de los factores más importantes para combatir los deepfakes es aumentar la concienciación de los usuarios sobre la necesidad de verificar los vídeos que se difunden y sus objetivos, y no precipitarse en creerlos o contribuir a su difusión sin conciencia».
Difamación y descrédito.. Fraude financiero.. Ataques económicos y cibernéticos.. Desinformación y dificultad para verificar la información.
Por su parte, el experto tecnológico Jis Kim dijo: «Así como la inteligencia artificial ha creado los retos de los deepfakes, también ha proporcionado herramientas avanzadas para hacerles frente, ya sea analizando y detectando los vídeos, o analizando los movimientos faciales para aclarar las diferencias entre los movimientos faciales naturales y los falsos».
Añadió que «una de las herramientas para hacer frente a los retos de los deepfakes es documentar el contenido utilizando tecnologías como la huella digital o la firma digital».
4 riesgos de los deepfakes.
