В последние годы стремительное развитие технологий искусственного интеллекта привело к появлению нового класса цифровых угроз, связанных с генерацией синтетического контента, в частности дипфейков. Дипфейк-технологии позволяют создавать реалистичные аудио- и видеоматериалы, имитирующие речь, внешность и поведение реальных людей. Это существенно повышает эффективность атак социальной инженерии. В условиях цифровизации государственных и корпоративных процессов, а также широкого распространения удалённых коммуникаций, злоумышленники получают новые инструменты для манипуляции доверием, компрометации учетных данных, проведения мошеннических операций и дестабилизации информационной среды в целом. Синтетическая идентичность, формируемая на основе поддельных цифровых следов, становится центром таких атак, усложняя их обнаружение и повышая уровень потенциального ущерба.

Целью исследования является комплексный анализ угроз, связанных с использованием дипфейков и синтетической идентичности в социальной инженерии, а также систематизация методов их обнаружения в аудио- и видеоданных. Внимание также уделяется выявлению уязвимостей в корпоративных и государственных системах безопасности, которые могут быть использованы злоумышленниками при реализации атак с применением синтетических медиа.

Научная значимость исследования заключается в углублении понимания роли синтетических медиа в современных киберугрозах и развитии теоретических и прикладных основ их обнаружения. Полученные результаты способствуют расширению научной базы в области противодействия цифровым манипуляциям, а также формированию новых подходов к защите корпоративных и государственных информационных систем.

Для начала рассмотрим теоретические основы дипфейков и синтетической идентичности. Развитие технологий искусственного интеллекта, в частности генеративных моделей, таких как GAN, автоэнкодеры и модели синтеза речи, привело к качественному скачку в создании синтетического контента. Дипфейки представляют собой искусственно сгенерированные аудио-, видео- или визуальные данные, которые имитируют реальные объекты с высокой степенью достоверности [10]. Как отмечают Т. Ван и соавторы, дипфейки формируют новый класс угроз, а одной из ключевых проблем становится недостаточная надежность систем их автоматического распознавания в реальных условиях [7]. Большую опасность представляет феномен синтетической идентичности — цифровой конструкции, в которой реальные и поддельные элементы, например лицо одного человека, голос другого и вымышленные биографические данные, объединяются в единый образ. Л. С. Ф. Лин пишет, что такие идентичности активно используются в организованном мошенничестве, включая финансовые преступления и кибератаки [3]. В отличие от традиционного фишинга, где злоумышленник опирается главным образом на текстовые коммуникации, дипфейки позволяют задействовать аудиовизуальные каналы, которые воспринимаются человеком как более достоверные.

Следует отметить, что синтетическая идентичность не сводится только к подделке изображения или голоса. В более широком смысле речь идет о создании устойчивого цифрового профиля, который способен пройти отдельные этапы проверки в информационных системах. По существу, злоумышленник конструирует новую псевдоличность, комбинируя частично реальные и частично вымышленные данные. В исследованиях по идентификационному мошенничеству подчеркивается, что такая схема особенно опасна там, где проверка личности распределена между несколькими разрозненными системами и не строится на сквозной корреляции поведенческих, биометрических и документарных признаков [9]. Именно поэтому синтетическая идентичность становится удобным инструментом не только для разовых атак, но и для длительного присутствия в цифровой среде под видом легитимного субъекта.

Основной проблемой становится подрыв базового принципа доверия к цифровому контенту. Если ранее визуальное или голосовое подтверждение считалось надежным доказательством, то сейчас оно теряет свою валидность. С. Сонам и А. Дхумане указывают, что дипфейки ставят под угрозу саму концепцию достоверности информации в цифровой среде [5].

Современные атаки социальной инженерии также претерпевают значительную трансформацию под влиянием технологий генеративного искусственного интеллекта. Согласно статистическим данным, число инцидентов, связанных с использованием дипфейков, ежегодно увеличивается, а финансовый ущерб от таких атак продолжает расти [2]. Если ранее злоумышленники ограничивались фишинговыми письмами и телефонными звонками, то сегодня они используют высокореалистичные аудио- и видеоподделки для имитации доверенных лиц. По данным отчета ACFE и SAS, большинство специалистов по борьбе с мошенничеством отмечают рост атак социальной инженерии с использованием технологий искусственного интеллекта, включая дипфейки, при этом лишь около 7% организаций считают себя полностью готовыми к противодействию таким угрозам [6]. Более того, лишь небольшая доля организаций считает себя готовой к противодействию таким угрозам, что указывает на серьезный разрыв между развитием атакующих технологий и защитных механизмов. Особенно уязвимыми оказываются корпоративные структуры, где широко распространены иерархические модели управления и сценарии срочного согласования решений. Известны случаи, когда злоумышленники, используя синтезированный голос или изображение руководителя, передавали финансовым подразделениям указания о переводе денежных средств. При этом способность человека самостоятельно распознавать качественные дипфейки остается ограниченной, а потому во многих случаях пользователь не способен отличить подделку от реального контента без специализированных инструментов [1].

Рассмотрим методы создания дипфейков. Основу современных дипфейков составляют методы глубокого обучения, в частности генеративные состязательные сети, автоэнкодеры, технологии синтеза речи, преобразования голоса и модели диффузионного синтеза. Эти технологии позволяют генерировать полностью синтетические изображения и голоса, не имеющие реального прототипа, а также модифицировать уже существующий контент. Как отмечают С. Сонам и А. Дхумане, развитие таких технологий происходит быстрее, чем совершенствование методов их обнаружения. Это создает своеобразную «гонку вооружений» между разработчиками атакующих и защитных решений [5]. В частности, внимания заслуживает технология клонирования голоса, которая стала одним из наиболее доступных и широко используемых инструментов злоумышленников. Она требует минимального количества исходных данных: в ряде случаев достаточно нескольких секунд записи речи. Это делает атаки масштабируемыми и дешевыми, что, в свою очередь, значительно увеличивает их распространенность.

Отдельного внимания заслуживает различие между традиционным мошенничеством с использованием чужой личности и синтетической идентичностью. При краже личности злоумышленник использует данные реально существующего человека. При синтетической идентичности формируется новая сущность, частично основанная на реальных идентификаторах, но не совпадающая ни с одной реальной персоной. Как показывают исследования в области выявления подделки личности, именно такие гибридные схемы труднее всего поддаются обнаружению, поскольку они могут выглядеть правдоподобно в рамках отдельных проверок и лишь при сопоставлении разнородных источников данных демонстрируют аномалии [9]. Следовательно, защита от таких угроз требует не только анализа самого медиафайла, но и проверки контекстных признаков: истории цифровой активности, согласованности метаданных, сетевых связей, поведенческих паттернов и сценария взаимодействия пользователя с системой.

Обнаружение дипфейков является одной из наиболее активно развивающихся областей в кибербезопасности и цифровой криминалистике. Современные методы можно условно разделить на несколько групп. Первая группа — методы анализа визуальных артефактов. Они основаны на выявлении несоответствий в изображении, таких как аномалии освещения, неестественная мимика, нарушения синхронизации губ, искажения текстур кожи и другие следы генерации. Вторая группа — методы анализа физиологических сигналов. Например, системы данного класса способны выявлять аномалии, связанные с микродвижениями лица, морганием, ритмом дыхания и непрямыми показателями кровотока. Третья группа — методы машинного обучения, в том числе нейронные сети, обученные на больших наборах данных. Однако, как отмечают Т. Ван и соавторы, такие модели сталкиваются с проблемами переносимости, интерпретируемости и устойчивости, особенно при встрече с новыми типами дипфейков [7]. Также важным направлением является комбинированный подход, объединяющий автоматические алгоритмы и участие человека. Как показывает исследование М. Гроха и соавторов, совместное использование машинного анализа и человеческой оценки повышает точность обнаружения по сравнению с использованием только одного из этих методов [1].

Особую сложность представляет обнаружение аудиодипфейков. В отличие от видео, где могут быть заметны зрительные артефакты, поддельная речь часто воспринимается пользователем как более естественная, особенно если она воспроизводится в стрессовой или срочной ситуации. Современные исследования по обнаружению поддельной речи показывают, что для повышения устойчивости систем необходимо сочетать несколько уровней анализа: спектральные признаки, временные характеристики сигнала, модели на основе самоконтролируемого обучения и архитектуры, способные улавливать малозаметные следы синтеза или преобразования голоса [8,12]. Кроме того, перспективными направлениями признаются интерпретируемые модели, методы обнаружения с сохранением конфиденциальности, а также подходы, устойчивые к сжатию, шуму канала связи и неизвестным генеративным моделям [11]. Это особенно важно для корпоративных и государственных коммуникаций, где злоумышленники часто используют неидеальные, но достаточно убедительные аудиозаписи, передаваемые через мессенджеры, IP-телефонию и системы видеоконференций.

Дипфейки представляют собой серьезную угрозу как для отдельных пользователей, так и для организаций и государств. В корпоративной среде они используются для финансового мошенничества, промышленного шпионажа, компрометации деловой репутации, обхода процедур согласования и имитации управленческих указаний. Как указывает К. Т. Педерсен и соавторы, многие компании по-прежнему полагаются на традиционные системы безопасности, которые не учитывают специфику дипфейков и психологические механизмы доверия к аудиовизуальному контенту [4]. На государственном уровне угрозы включают распространение дезинформации, вмешательство в общественно-политические процессы, подрыв доверия к институтам власти и дискредитацию официальных лиц. Дипфейки могут использоваться для создания фальшивых заявлений политиков, имитации кризисных сообщений, фальсификации доказательств и искусственного нагнетания паники. Особую опасность представляет масштабируемость таких атак, поскольку один и тот же дипфейк может быть быстро распространен среди миллионов пользователей через социальные сети и цифровые платформы.

Следовательно, противодействие таким угрозам не может ограничиваться только внедрением отдельного программного средства обнаружения. Необходим комплекс организационных мер. К ним относятся: обязательная многофакторная верификация критически важных распоряжений; регламенты повторного подтверждения финансовых и административных операций через независимый канал связи; сегментация полномочий; обучение сотрудников признакам синтетического контента; внедрение систем оценки риска цифровой идентичности; а также постоянный мониторинг аномалий в поведении учетных записей [4; 9]. Для государственных структур дополнительно актуальны механизмы цифровой аутентичности официальных сообщений, централизованные процедуры верификации публичных видеоматериалов и единые протоколы реагирования на информационные инциденты с использованием синтетических медиа.

Необходим комплексный подход к противодействию дипфейкам. Это включает развитие технологий обнаружения, совершенствование нормативно-правовой базы, повышение уровня цифровой грамотности пользователей и формирование практик ответственного обращения с синтетическим контентом. С. Сонам и А. Дхумане предлагают такие направления, как внедрение объяснимого искусственного интеллекта, использование федеративного обучения, развитие мультимодальной криминалистики и стандартизация подходов к цифровой аутентичности [5]. В свою очередь, систематические обзоры в области обнаружения мошенничества с идентичностью указывают на необходимость объединения биометрического анализа, поведенческих моделей, контекстных данных и межсистемной корреляции для формирования более надежных защитных механизмов [9]. Таким образом, борьба с дипфейками требует не только технологических решений, но и изменения подходов к обеспечению информационной безопасности в целом.