Постоянное расширение использования передовых технологий искусственного интеллекта и машинного обучения привело к появлению и распространению феномена глубоких подделок (deepfake), который несет в себе множество рисков. Ключевые из них — это клевета и подрыв репутации, а также финансовое мошенничество, кибератаки и экономические атаки, а также дезинформация и трудности с проверкой информации.
Вместе с тем, два эксперта в технологической отрасли подтвердили, что существуют ключевые факторы для борьбы с «глубокими подделками». Наиболее важные из них — reliance on AI tools themselves to detect and analyze fake content, as well as increasing public awareness of the importance of verifying content before believing or republishing it, in addition to documenting content using technologies such as digital fingerprinting or digital signatures to ensure its authenticity.
Подробнее, в последние годы мир наблюдал постоянное расширение использования передовых технологий искусственного интеллекта и машинного обучения, что привело к появлению и распространению феномена «глубоких подделок» (Deepfake) в глобальном масштабе.
«Глубокая подделка» означает создание поддельных видеороликов, аудиозаписей или изображений различных людей, которые выглядят настолько реалистично, что их трудно отличить от подлинных для широкой публики, благодаря возможностям искусственного интеллекта в генерации или модификации контента способом, близким к реальности.
Хотя вначале эти технологии считались многообещающими инструментами, которые могут принести много пользы в таких областях, как развлечения и образование, их распространение и злоупотребление привели к появлению множества рисков и проблем.
Среди самых серьезных рисков: клевета и подрыв репутации, когда поддельный контент используется для прямого нацеливания на отдельных лиц с целью причинения им вреда или подрыва их образа в глазах общественности.
Риски также включают финансовое мошенничество, когда подделка голоса иногда используется для того, чтобы выдать себя за официальных лиц или известных людей с целью перевода средств или совершения мошеннических операций.
Помимо этого, существуют также кибератаки и экономические атаки, которые включают ущерб для компаний через создание поддельных видео, направленных на подрыв их репутации или влияния на стоимость их акций, а также использование подделок голоса для получения конфиденциальной информации.
Другие риски — это дезинформация и трудности с проверкой информации. Широкое распространение этой технологии затрудняет проверку достоверности контента в социальных сетях, что увеличивает вероятность распространения ложных новостей и дезинформации.
Хотя искусственный интеллект является основой, на которой строятся глубокие подделки, в то же время он предоставляет инструменты для борьбы с этим явлением. Его можно использовать для анализа и обнаружения поддельного контента с помощью передовых механизмов, способных отслеживать незначительные несоответствия в изображениях, видео и звуке, которые трудно обнаружить невооруженным глазом.
Эксперт по кибербезопасности Имад аль-Хафар сказал: «Развитие инструментов искусственного интеллекта способствовало увеличению распространения глубоких подделок и кибератак, но в то же время оно предоставило необходимые инструменты для их противодействия и обнаружения через технические системы и специализированные решения».
Он добавил: «Технологии искусственного интеллекта позволяют обнаруживать мелкие ошибки в изображениях, видео или сообщениях, такие как несоответствия в освещении в видео или изображениях, или анализ движений лица, чтобы выявить различия между естественными и поддельными движениями».
Аль-Хафар подчеркнул, что «одним из важнейших факторов борьбы с глубокими подделками является повышение осведомленности пользователей о проверке распространяемых видео и их целях, а также не спешить с их верой или участием в распространении без должного осознания».
Клевета и подрыв репутации.. Финансовое мошенничество.. Кибератаки и экономические атаки.. Дезинформация и трудности с проверкой информации.
С другой стороны, технологический эксперт Джис Ким сказал: «Так же как искусственный интеллект создал проблемы глубоких подделок, он также предоставил передовые инструменты для их решения, будь то анализ и обнаружение видео или анализ движений лица для выявления различий между естественными и поддельными движениями».
Он добавил, что «одним из инструментов противодействия вызовам глубоких подделок является документирование контента с использованием технологий, таких как «цифровой отпечаток» или «цифровая подпись»».
4 риска «глубоких подделок».
