ИИ стал оружием педофилов - «Компьютеры и интернет»

С развитием искусственного интеллекта стало возможным его использование для создания детского порно. С каждым годом ситуация становится все хуже, поскольку ИИ быстро совершенствуется в генерации изображений. В 2023 году количество такого контента значительно выросло, а в даркнете ежемесячно появляется около 10 тыс. противозаконных псевдоснимков. «Газета.Ru» разобралась в масштабах проблемы, изучила инструменты маньяков и рассказывает, как карается создание детского порно с помощью ИИ в России.В интернете есть все Фонд наблюдения за Интернетом (Internet Watch Foundation, IWF) — одна из самых активных организаций, занимающихся изучением проблемы сексуальной эксплуатации детей. Согласно их последнему отчету, в 2023 году было зафиксировано значительное увеличение количества сгенерированного детского порнографического контента. По данным аналитиков IWF, на форумах в даркнете ежемесячно публикуется около 10 тыс. потенциально противозаконных изображений несовершеннолетних, созданных при помощи ИИ. Анализ материалов в один из контрольных месяцев показал, что примерно 30% от всех изображений — однозначно криминальные. Почти все такие материалы представлены в виде псевдофотографий порнографического характера. «Большинство обнаруженных ИИ-изображений были достаточно реалистичными, чтобы их можно было рассматривать как настоящее детское порно. Самые убедительные материалы визуально неотличимы от настоящих фотографий даже по мнению опытных аналитиков IWF», — говорится в заявлении фонда. Сгенерированные видеоролики подобного рода тоже встречаются в даркнете. Однако они пока не обладают столь убедительным качеством, как псевдофотографии. При этом в IWF уверены, что появление правдоподобного детского видеопорно, созданного ИИ, — это вопрос ближайшего будущего. Спрос рождает предложение Сгенерированные изображения распространяются не только в даркнете. Известны случаи, когда подобные материалы встречались в Telegram, на Patreon и даже в так называемом клирнете — обычном интернете. Согласно исследованию той же IWF, в 2023 году в клирнете работало по меньшей мере 15 веб-сайтов, на которых был размещен сгенерированный порноконтент c несовершеннолетними. Пять из них были зарегистрированы в Нидерландах, три – в Японии, два – в США. Еще по одному ресурсу было найдено на Украине, в России, Норвегии, Люксембурге и Гонконге. На форумах в даркнете сгенерированное детское порно по популярности и объему значительно уступает оригинальному контенту. Однако за последний год соответствующие разделы появились на всех площадках, где администраторами детское порно одобрено. «Все, что связано с детским порно, на форумах имеет большой спрос. Сгенерированный контент не является исключением. Правда, в случае с ИИ спрос сильно зависит от качества дипфейков. Насколько мне известно, основным рынком сбыта детского порно служат страны Средней Азии и Африки», — рассказал «Газете.Ru» один из исследователей даркнета. Сгенерированный контент приобретается не только педофилами. Известны случаи, когда ИИ-изображения использовались для шантажа подростков. Злоумышленники создают фейковые аккаунты в социальных сетях и связываются с подростками, представляясь их одноклассниками или друзьями. Они отправляют ребенку псевдофотографии, утверждая, что на них изображен он же, а следом требуют от жертвы либо деньги, либо подлинные эротические снимки взамен за нераспространение имеющихся. Если очень захотеть Хотя популярные ИИ-сервисы вроде DALL-E, Midjourney и Gemini запрещают создавать порнографический контент наравне с жестоким, лазейки для обхода этих запретов все равно существуют. В сущности у злоумышленников есть два способа создания ИИ-порно с несовершеннолетними. Первый – это нишевые облачные сервисы, настроенные на «раздевание» людей на фотографиях. Обычно реклама таких платформ распространяется на порносайтах. По умолчанию такие веб-приложения не разрешают создавать контент с несовершеннолетними, однако злоумышленники подбирают промпты , которые позволяют обходить встроенные ограничения. Ими люди периодически делятся на форумах в даркнете. Более популярный метод создания противозаконных псевдофотографий — это локальный запуск нейросети на компьютере. В этом случае промпты обрабатываются не на удаленном сервере, а непосредственно на компьютере, и никем не модерируются, что полностью развязывает руки педофилам. Как правило, для запуска подобных нейросетей требуются относительно мощные ПК. Условная сложность второго метода заключается в подборе дата-сета — набора изображений для обучения нейросети. Условная она потому, что педофилы, как правило, уже имеют коллекции подобного контента. Для получения нового суррогата злоумышленники смешивают уже имеющиеся порнографические материалы с фотографиями новых жертв. Человек и закон Несложно догадаться, что создание порнографического контакта с участием несовершеннолетних в большинстве стран незаконно. Например, в 2023 году в Южной Корее мужчину приговорили к 2,5 года лишения свободы за использование нейросетей в аморальных целях. В мае 2024 года в США арестовали 42-летнего американца за создание 13 тысяч «гиперреалистичных» порноизображений с участием несовершеннолетних и отправку сгенерированных снимков 15-летнему мальчику в Instagram (владелец компания Meta признана в России экстремистской и запрещена). Ему грозит до 70 лет тюрьмы. В России, как пояснил «Газете.Ru» основатель юридической компании Future Legal Павел Катков, такая деятельность тоже незаконна. Она подпадает под статью 242.1 УК РФ «Изготовление и оборот материалов или предметов с порнографическими изображениями несовершеннолетних». Максимальное наказание по ней — лишение свободы на срок до восьми лет. В случае, если преступление совершено группой лиц по сговору, против лица, не достигшего 14 лет, с извлечением дохода в крупном размере или с использованием интернета, наказание может составить до 10 лет лишения свободы. Также в УК РФ есть статья 242.2 «Использование несовершеннолетнего в целях изготовления порнографических материалов или предметов». По ней съемка детей для создания порнографического контента или привлечение несовершеннолетних «для участия в зрелищном мероприятии порнографического характера» также наказывается лишением свободы до 10 лет. «Часть вторая этой же статьи считает те же деяния, совершенные с использованием средств массовой информации либо информационно-телекоммуникационных сетей, в том числе сети «Интернет», более общественно-опасными, поднимая наказание до 15 лет лишения свободы. На мой взгляд, использование нейросетей также не смягчает, а усиливает ответственность, и к ней может добавиться антихакерская статья (273 УК РФ) и норма о распространении клеветы (128.1 УК РФ)», – заявил эксперт. При этом Катков добавил, что в российском законодательстве есть пробел, который не предусматривает наказание за распространение инструкций о создании порноконтента с участием несовершеннолетних с использованием ИИ. По его словам, проработкой этого пробела должны заняться в Госдуме РФ.