В эпоху цифровых технологий искусственный интеллект внедряется во все сферы жизни общества, порождая тем самым не только технологический прогресс, но и существенные изменения в праве. Правоприменители  сталкиваются с проблемами применения действующего закона в делах, связанных с использованием нейросетей. Одним из наиболее серьезных и дискуссионных вопрос, требующих законодательного решения, является определение правового режима для созданных с помощью генеративного искусственного интеллекта материалов, а именно дипфейков. Распространение гиперреалистичных изображений, аудиозаписей и видео, которые имитируют действия и высказывания конкретных лиц может нанести существенный вред их репутации и достоинству. Научная гипотеза исследования заключается в том, что действующая модель деликтной ответственности, которая согласно статье 1064 Гражданского кодекса Российской Федерации (далее ГК РФ) требует доказательства вины [6] неэффективна при причинении вреда нейросетью. Непредсказуемое поведение самообучающихся систем и отсутствие прямого контроля владельца за каждым их действием создают серьезные препятствия для применения классических механизмов доказывания. Это порождает необходимость в расширительном толковании статьи 1079 ГК РФ, касающейся источников повышенной опасности [6] или разработке нового законодательного решения.

Ученые выделяют несколько подходов к пониманию понятия «Дипфейк». Во-первых, существует техноцентричный подход, который фокусируется на технической стороне, определяя дипфейк как гиперреалистичное видео, сгенерированное ИИ, которое имитирует действия и слова человека, никогда не имевшие места. В отличие от этого, второй подход, а именно — нормативный, акцентирует внимание на этической и правовой стороне, рассматривая дипфейк как незаконное присвоение чужого образа или голоса для распространения дезинформации или причинения вреда. Есть и третий подход- синтетический, который стремится объединить эти две перспективы. Он определяет дипфейк как целенаправленно созданный с помощью ИИ медиапродукт (видео, фото, аудио), призванный сформировать у аудитории искаженный образ реального человека с целью получения выгоды или нанесения ущерба. [4, С. 31-35]

В российской же судебной практике дифейки определяются в качестве дополнительного инструмента  обработки технического материала, а не способа их создания. [13]

В рамках анализа зарубежной практики заслуживает внимания тот факт, что суд в провинции Квебек разработал свое определение понятия “дипфейк”, под которым понимается “процесс манипулирования аудиовизуальными данными, использующий алгоритмы глубокого обучения для создания сверхреалистичных образов”. Согласно позиции суда данная технология может использоваться для встраивания лица человека в тело другого человека, а также данный метод визуальной манипуляции может быть дополнен синтезированным голосом, неотличимым от голоса конкретного человека. [14, С.19]

Методология создания дипфейков включает в себя две категории:

• EBDR (Employment Based Digital Replicas- цифровые копии на основе занятости)- данный подход заключается в вовлечении человека в процесс генерации цифровой реплики
• ICDR (Independently Created Digital Replicas- независимо созданные цифровые копии)- эта категория включает в себя методы, основанные на преобразовании имеющихся визуальных данных. [3, С. 23]

С каждым днем появляется все больше видео и изображений, сгенерированных искусственным интеллектом, которые сложно отличить от реальности. В пример можно привести фальшивое видео, которое было распространено в нескольких регионах России 5 июня 2023 года, в котором Владимир Владимирович Путин заявил о введении военного положения и объявлении полной мобилизации. Пресс-секретарь президента Дмитрий Песков опроверг информацию о выступлении президента Российской Федерации с данным обращением и сообщил о факте взлома телевизионного эфира. Платформа “Зефир” установила, что данное обращение с вероятностью 87% является дипфейком. [5, С. 54]

В российском законодательстве честь, достоинство и деловая репутация относится к нематериальным благам, защищаемых статьей 152 ГК РФ. Дипфейки, содержащие сведения, не соответствующие действительности и порочащие честь субъекта попадают под действие данной статьи. Особого внимания требует охрана таких личных неимущественных прав, как изобразительные и звуковые данные гражданина. Из статьи 152.1 пункта 1 ГК РФ следует, что “обнародование и дальнейшее использование изображения гражданина (в том числе его фотографии, а также видеозаписи или произведения изобразительного искусства, в которых он изображен) допускаются только с согласия этого гражданина”. Защита голоса осуществляется с помощью статьи 150 ГК РФ, где указан перечень нематериальных благ, который носит открытый характер [6], а следовательно, позволяет защищать и новые объекты, в том числе и голос гражданина.

 В Государственную Думу Российской Федерации внесет законопроект № 718834-8 о внесении изменений в первую часть Гражданского кодекса, суть которого заключается в ее дополнении статьей 152.3, устанавливающей охрану голоса по аналогии с изображением гражданина, в том числе и в случаях его имитации. На данный момент он находится на стадии рассмотрения. Принятие этого закона поможет устранить пробел в гражданском законодательстве в отношении голоса гражданина. [12]

Согласно статье 11 Федерального закона  “О персональных данных” изображение и голос гражданина являются биометрическими персональными данными. Их обработка должна осуществляться в особом порядке, установленным данным законом и только с согласия соответствующего субъекта. Следовательно, использование этих данных без согласия субъекта с целью создания дипфейков является отдельным нарушением. [16]

Как отмечалось выше, основным инструментом защиты от причинения вреда репутации и достоинству человека искусственным интеллектом является статья 152 ГК РФ. Согласно пункту 1 данной статьи, “гражданин вправе требовать по суду опровержения порочащих его честь, достоинство или деловую репутацию сведений, если распространивший такие сведения не докажет, что они соответствуют действительности. Опровержение должно быть сделано тем же способом, которым были распространены сведения о гражданине, или другим аналогичным способом”. Пункт 2 статьи 150 ГК РФ предусматривает возможность гражданина помимо возмещения морального вреда, требовать прекращения противоправных действий, которые нарушают или могут в будущем поставить под угрозу его личные неимущественные права.[6] Если рассматривать это положение относительно нейросетей, то это может выражаться в требовании об исключении конкретных данных из датасетов или внесении изменений в работу алгоритмов.

Что касается клеветы, то за нее предусмотрена уголовная ответственность, основанная на статье 128.1 Уголовного кодекса РФ(далее УК РФ). Согласно ей, клевета- это “распространение заведомо ложных сведений, порочащих честь и достоинство другого лица или подрывающих его репутацию”. [15] Таким образом, ключевым признаком состава клеветы является распространение заведомо ложных сведений. Однако, при определении заведомой ложности сведений в дипфейке возникает ряд проблем, так как доказать осведомленность распространителя о недостоверности информации крайне сложно. Также для установления подлинности фото и видеоматериалов необходимо проводить достаточно сложный анализ с привлечением экспертов в области информационных технологий и искусственного интеллекта. Стоит отметить, что существующая редакция ст. 128.1 УК РФ не учитывает  особенности распространения клеветы нейросетью, а следовательно представляется необходимым дополнить ее с учетом специфики генеративного искусственного интеллекта. Этот шаг позволит ужесточить ответственность за распространение порочащих сведений посредством дипфейков. [18, С. 733-735]

Привлечь искусственный интеллект к ответственности является проблемой из-за отсутствия у него гражданской правосубъектности. Согласно статье 2 ГК РФ “участниками регулируемых гражданским законодательством отношений являются граждане и юридические лица”. [6] Нейросеть не обладает правоспособностью и дееспособностью, что делает невозможным ее участие в правоотношениях, а следовательно и возложение на нее ответственности. В доктрине и судебной практике выделяют следующих субъектов гражданско-правовой ответственности:

• автор дипфейка, то есть лицо, сгенерировавшее контент с помощью искусственного интеллекта. Особое внимание здесь стоит уделить позиции А.К. Жаровой, согласно которой “Лицо, использующее технологию дипфейк, становится оператором персональных данных, в соответствии с ФЗ «О персональных данных», поскольку это лицо «организует и (или) осуществляете обработку персональных данных, а также определяет цели обработки персональных данных, состав персональных данных, подлежащих обработке, действия (операции), совершаемые с персональными данными» (п. 2 ст.3 ФЗ «О персональных данных»)”. [7, С.115] Голос и изображение человека, как уже отмечалось, относятся к биометрическим персональным данным, обработка которых допускается только при согласии субъекта персональных данных. Лицо, создавшее дипфейк, может быть привлечено к ответственности по ст 152 ГК РФ (Защита чести, достоинства и деловой репутации), ст 152.1 ГК РФ (Нарушение права на изображение), а если для создания дипфейка использовались чужие видео, изображения или музыка, то его автора можно привлечь к ответственности и по ст 1259 и 1274 ГК РФ (Нарушение авторских и смежных прав). Создателю дипфейка будет грозить, в первую очередь, удаление данного материала и запрет его использования, компенсация морального вреда истцу в размере, определенным судом, возмещение убытков, если пострадавшее лицо их претерпело из-за подорванной репутации. В некоторых случаях согласно ст 1301 ГК РФ возможна и компенсация за нарушение исключительных прав. [6]
• Лицо, осуществившее акт опубликования, передачи или иного доведения дипфейка до сведения неопределенного круга лиц. Им может быть как сам автор, так и третье лицо. Распространитель дипфейка несет ответственность наравне с автором, причем его вина может быть установлена, если он знал или имел основания предполагать, что информация является поддельной. Основанием для гражданско-правовой ответственности являются те же статьи Гражданского кодекса РФ, что и для автора дипфейка.
• Владелец информационного ресурса, где были опубликован ложный материал. В соответствии с пунктом 1 и 2 ст 15.7 Федерального закона №149-ФЗ “Об информации” потерпевший имеет право направить владельцу сайта в сети “Интернет” заявление, в котором необходимо указать данные правообладателя, содержание и характер нарушения, точный адрес размещения материала, а также подтверждение прав на материал и факта отсутствия согласия на его размещение . Согласно пункту 6 указанной статьи “В течение двадцати четырех часов с момента получения заявления или уточненных заявителем сведений владелец сайта в сети “Интернет” удаляет указанную в части 1 настоящей статьи информацию”.[17] Если же данная информация не будет удалена, то владелец соответствующей платформы фактически становится соучастником распространения дипфейка и может быть подвержен солидарной ответственности вместе с его автором и распространителем.

Солидарная ответственность наступает, создатель дипфейка и распространитель действовали совместно с целью причинения вреда (например, по предварительному сговору). В этом случае они становятся солидарными должниками по общим правилам, предусмотренным ст 322 и 1080 ГК РФ. [6] Однако ГК РФ и иные нормативно-правовые акты не содержат специальных норм о солидарной ответственности за дипфейки. Для информационных посредников согласно ст 1253.1  ГК РФ предусмотрена  субсидиарная или ограниченная ответственность, то есть посредник несет менее строгую ответственность, чем правонарушитель.[6] Но если посредник действует совместно с создателем дипфейка в целях причинения вреда, то преобладают общие нормы о солидарной ответственности, а следовательно посредник утрачивает право на субсидиарную или ограниченную ответственность и несет солидарную ответственность вместе с правонарушителем.

Как мы видим, действующее законодательство позволяет защищать репутацию от распространения клеветы нейросетью. Так, статья 1064 ГК РФ предусматривает общие основания ответственности за причиненный вред, а статья 1099 ГК РФ предоставляет возможность компенсации морального вреда при нарушении личных неимущественных прав. [6] Однако ключевая проблема обусловлена особенностью функционирования нейросетей. Они могут непреднамеренно создавать дискредитирующую информацию, что является следствием статистических закономерностей, обнаруженных в обучающих наборах данных. Из этого вытекает вопрос о правомерности возложения вины на владельца сервиса,если его алгоритмическая модель функционировала не так, как предполагалось изначально. Классическая деликтная ответственность вытекающая из статей 1064 и 1099 ГК РФ базируется на принципе вины, так как для привлечения к гражданско-правовой ответственности необходимо установить конкретное виновное лицо, а также доказать наличие в его действиях противоправности. [6] Однако в контексте генеративного искусственного интеллекта данная модель начинает давать сбои.

Когда искусственный интеллект создает дипфейк самостоятельно, с помощью анализа данных, владелец сервиса оказывается в неоднозначном положении.Хоть он и не является автором дипфейка в традиционном понимании, но именно он ввел в оборот инструмент, чье поведение зачастую непредсказуемо. Привлечь его к ответственности по статье 1064 ГК РФ возможно, однако это потребует доказательства либо недостаточных мер контроля , то есть вины в форме неосторожности, либо применения концепции источника повышенной опасности по смыслу статьи 1079 ГК РФ. Традиционно под источником повышенной опасности понимаются физические объекты ( например, транспортные средства, взрывчатые вещества, механизмы).[6] Распространение этого термина на нейросети не является общепризнанным и активно критикуется учеными. Первая группа ученых отмечает, что искусственный интеллект обладает такими же неподконтрольными и вредоносными свойствами, что позволяет отнести его к источнику повышенной опасности. Лаптева В. А. считает очевидным, что интеллектуальные роботы и программы относятся к источникам повышенной опасности, а следовательно российское законодательство уже содержит необходимые нормы права, которые регламентируют порядок привлечения к ответственности за деятельность искусственного интеллекта.[9, С.90]

 Другая группа ученых придерживается риск-ориентированного подхода, который заключается в необходимости более тонкого разграничения рисков при категоризации искусственного интеллекта как объекта повышенной опасности, поскольку прямое отнесение не учитывает всех нюансов. Для систем с высоким риском они предлагают привлечь к ответственности, близкой к статье 1079 ГК РФ, разработчика, а для систем с низким риском предусмотреть виновную ответственность. Ижаев О.А. и Кутейников Д.Л. в своей работе отмечают, что концепция, рассматривающая систему искусственного интеллекта в качестве источника повышенной опасности не охватывает всю многогранность общественных отношений в сфере искусственного интеллекта. Многообразие участников, их разный уровень вовлеченности, присущая искусственному интеллекту способность к самообучению и техническая сложность требуют более глубокого правового осмысления. Системы искусственного интеллекта обладают разнообразными функциями и могут использоваться для разных целей, следовательно правовое регулирование должно учитывать эту специфику. [8, С. 30]

Вместо статьи 1079 ГК РФ более обоснованным считается применение ст 1095 ГК РФ “Основания возмещения вреда, причиненного вследствие недостатков товара, работы или услуги”. Если владелец сервиса предоставляет услугу ненадлежащего качества (например, не обеспечил достаточную фильтрацию контента), то его ответственность наступил не зависимо от вины. [6]

Что касается аспекта доказывания в делах, связанных с причинением вреда репутации и распространением клеветы нейросетью, можно выделить ряд элементов доказывания:

• Доказывание факта распространения: в случае автоматической генерации и распространения дипфейка истец должен доказать только факт его наличия на ресурсе, а обязанность раскрыть информацию об авторе может быть возложена на владельца платформы.
• Порочащий характер сведений:истец должен доказать, что сведения содержат утверждения о нарушении закона, неэтичном поведении и так далее.
• Несоответствие сведений действительности: ответчик должен доказать, что распространенные сведения соответствуют действительности. [10]
• Судебная экспертиза: С целью установления факта создания контента с помощью искусственного интеллекта, а не человеком необходимо провести ряд специализированных экспертиз, которые проводятся государственными и негосударственными экспертными учреждениями. К таким экспертизам относится компьютерно-техническая экспертиза, в рамках которой определяют нейросеть ли сгенерировала представленный материал, какие визуальные и технические признаки указывают на использование нейросетей, а также имеются ли признаки замены лица или синтеза речи.
• Специализированные программные детекторы: они могут быть использованы в качестве письменного доказательства или же для обоснования ходатайства о назначении экспертизы. Данные детекторы предназначены для анализа вероятности генерации контента искусственным интеллектом. Высокий процент вероятности генерации является весомым аргументом для суда.

Бывают случаи, когда оппонент в ходе судебного разбирательства представляет в качестве доказательства материал, сгенерированный нейросетью, содержащий ложные сведения и наносящий вред репутации. В этом случае наиболее эффективным способом защиты является подача заявления о фальсификации доказательств в порядке, предусмотренным статьями 161 Арбитражно-процессуального кодекса РФ и 186 Гражданско-процессуального кодекса РФ. Как отмечается в научной литературе, генерация доказательств с помощью искусственного интеллекта является формой сознательного искажения представляемых доказательств и может быть квалифицирована как их фальсификация.

 Ряд ученых выступает за внедрение страховых механизмов с целью предотвращения развития технологий из-за страха нести ответственность за вред, причиненный репутации людей из-за искусственного интеллекта. Его возмещение могло бы осуществляться из  средств специально созданной для этих целей обязательной системы страхования гражданской ответственности. При этом, для субъектов, занимающихся разработкой и эксплуатацией искусственного интеллекта предлагается предусмотреть “защиту обоснованного риска”, которая подразумевает, что при условии соблюдения лицом необходимых правил профессиональной деятельности и принятия всех зависящих от него мер для предотвращения вреда, оно не должно нести ответственность за покрываемый страховым полисом ущерб. [2, С. 117]

Не менее важным аспектом, требующим законодательного регулирования является возможность отзыва согласия на использование изображения или голоса. Согласно пункту 49 Постановления Пленума Верховного Суда РФ от 23.06.2015 года № 25 “О применении судами некоторых положений раздела I части первой Гражданского кодекса Российской Федерации” согласие на использование изображения или голоса можно отозвать. [11] Это ставит разработчиков сервисов искусственного интеллекта перед серьезными вызовами, так как требование  гражданина об удалении своих данных влечет за собой не только необходимость их очистки, но и дорогостоящее переобучение уже обученной модели. На данном этапе судебная система находится в поиске оптимального баланса интересов. В пример можно привести Апелляционное определение Санкт-Петербургского городского суда от 16.02.2023 по делу № 33-4169/2023. Суть этого дела заключается в том, что сотрудница, занимавшая должность инженера по тестированию изначально разрешила  использовать свои изображения для внутренних нужд компании, включая создание макета инструкции для рентгенографа. На основе этих изображений был разработан 3D аватар, который, предположительно, интегрировали в графический интерфейс рентгенографа. После увольнения, бывшая сотрудница попыталась отозвать свое согласие, оспаривая размещение инструкции с ее изображением на сайте компании, а также в программном обеспечении рентгенографа. Помимо этого, она требовала запрет на использование аватара. В результате, Апелляционный суд удовлетворил требование о запрете публикации инструкции с ее снимками на сайте, но отказал в отношении использования изображений в программном обеспечении рентгенографа, мотивируя это тем, что полный запрет нарушит баланс интересов и принцип добросовестности. [1] Это дело, хотя и не было связано с искусственным интеллектом, но может быть применено к ситуации с генеративными нейросетями, где отзыв согласия может повлечь серьезные последствия для разработчиков. Однако, использование принципа добросовестности в качестве обоснования решения, является скорее временной мерой, подчеркивающей отсутствие полноценного законодательного регулирования подобных вопросов, являющихся особенно актуальными  в контексте генеративных нейросетей.

Результаты проведённого исследования свидетельствуют о том, что прогресс в области искусственного интеллекта, особенно в создании дипфейков, создаёт серьёзные вызовы для действующей системы защиты чести, достоинства и деловой репутации. Несмотря на наличие основных норм в российском законодательстве, позволяющих привлекать к ответственности за распространение ложных сведений и причинение вреда репутации нейросетью, возникают новые сложности. Традиционная российская модель деликтной ответственности оказывается недостаточной для эффективного регулирования деятельности генеративного искусственного интеллекта и содержит пробелы, которые необходимо устранить в ближайшее время. Для этого следует:

• Внести изменения в ГК РФ, а именно:
• Закрепить четкое определение понятий “Дипфейк”, “Нейросеть, “Генеративный искусственный интеллект”,
• Принять закон о введении ст 152.3 ГК РФ, позволяющей защищать голос гражданина;
• Дополнить ст 1079 ГК РФ пунктом, который бы позволил приравнять технологии искусственного интеллекта к источнику повышенной опасности, если его функционирование может причинить вред личности или имуществу граждан из-за непредсказуемости работы его алгоритмов;
• Ввести отдельную статью, которая установила бы солидарную ответственность разработчика и владельца платформы в случаях, когда невозможно определить конкретного пользователя, а также закрепила бы презумпцию вины владельца платформы или разработчика за ущерб, который был причинен сгенерированным автономно контентом.
• Дополнить ГК РФ статьей, позволяющей осуществлять страхование ответственности, чтобы одновременно стимулировать инновации и защитить разработчиков от существенных рисков. Страховые выплаты должны покрывать ущерб, который был нанесен чести, достоинству и деловой репутации гражданина.

2) Уточнить порядок отзыва согласия на использование биометрических персональных данных: В ФЗ “ О персональных данных” необходимо внести норму, которая бы определяла последствия отзыва согласия на использование персональных данных, которые уже были применены для обучения нейросети. Предлагается закрепить необязательность удаления данных из уже обученной модели при технической невозможности это сделать или несоразмерных затратах, при условии прекращения дальнейшего использования этих данных разработчиком для обучения новых моделей.

3)  Закрепить правила распределения бремени доказывания ( на уровне разъяснений Верховного Суда РФ):  в делах, связанных с распространением дипфейков, созданных нейросетью, владелец информационного ресурса  должен будет доказать отсутствие своей вины и принятие им всех необходимых мер модерации.

Реализация всех вышеперечисленных предложений  позволит создать комплексную правовую базу, которая обеспечит полную и всестороннюю защиту граждан от вреда, причиненного их репутации нейросетью.