Шантаж с того света: дипфейки мёртвых используют для шантажа живых
NewsMakerКто стоит за индустрией цифрового некрофильства стоимостью миллионы?
Рынок приложений на базе искусственного интеллекта переживает очередной странный виток — теперь пользователи могут «обниматься» с вымышленными героями, целоваться с умершими родными и превращать случайные фото в криво анимированные фантасмагории. Эти приложения, заполнившие TikTok и магазины приложений, балансируют на грани неловкого и жуткого. С одной стороны — обманчиво безобидные шаблоны с котиками и бабушками, с другой — откровенно фетишистские сцены, где ИИ подгоняет тела, увеличивает грудь и превращает обычные фото в сексуализированные мини-сцены.
Алгоритмы этих приложений умеют много: поменять причёску, сделать пользователя стройнее, заставить танцевать в пижаме с ушками. Однако за кажущейся невинностью часто скрываются сомнительные функции. В одном из популярных приложений достаточно пары снимков, чтобы получить видео, где пользователь страстно обнимает или целует знаменитость — скажем, Роберта Паттинсона в образе Эдварда Каллена. Ещё один шаблон позволяет в пару кликов увеличить грудь героини с B до DD. Всё это подано с анимацией уровня детского представления о романтике — поцелуи больше напоминают механическое сминание лиц, а обнимашки выглядят, как будто кто-то пытается склеить куклу Барби с фигуркой из LEGO.
Некоторые из этих приложений принадлежат малоизвестным компаниям из Турции и Китая. За красивыми рекламными роликами и романтичными обещаниями скрывается модель монетизации, основанная на микротранзакциях: от $2.99 в неделю до $69.99 в год за доступ к ограниченному числу «кредитов» для генерации видео.
Несмотря на то что эти сервисы не распространяют откровенно порнографический контент, они часто заходят на опасную территорию — особенно в случае, когда используется изображение другого человека без согласия. Ряд функций завуалирован под развлечения или «фан-арт», но может использоваться для создания видео, нарушающих границы приватности и этики. Попытки создать подобные сцены через более строгие генераторы вроде Sora от OpenAI или Veo от Google, как правило, блокируются: там действует фильтрация по контенту, и пользователь должен подтвердить своё право на использование изображений.
В противоположность этому, в некоторых приложениях никаких проверок нет. Пользователь просто загружает пару фотографий и получает на выходе «поцелуй мечты». Правда, часто это заканчивается ошибками: разные расы в кадре приводят к тому, что алгоритмы «сглаживают» лица, адаптируя их под один тип — например, изменяя черты лица одного из участников, чтобы он больше соответствовал внешности второго. Такие артефакты лишь подчёркивают устоявшиеся в системах ИИ предвзятости.
Платформы, на которых размещаются эти приложения, пока не проявляют особой активности в регулировании ситуации. Meta* по запросу удаляет отдельные ролики и блокирует рекламу, нарушающую правила, но лишь после жалоб. Google Play запрещает сексуализированный контент, но рекламные кампании на грани допустимого всё ещё проникают в рекомендательные алгоритмы. Между тем, исследователи отмечают рост нелегальных сайтов, создающих дипфейки без согласия пользователей. Apple заявляет, что подобный «жутковатый» контент не должен появляться в App Store, но конкретных ограничений для рекламы не предусмотрено.
В одном из самых ярких эпизодов журналист, тестировавший такие приложения, создал видео, в котором покойные родители целуют и обнимают его. Сцены получились грубыми, искажёнными — улыбка матери была слишком идеальна, а волосы отца напоминали парик. Однако для других членов семьи это видео стало поводом для слёз и благодарности. Искусственный интеллект, каким бы нелепым ни был результат, дал им хотя бы призрачное ощущение связи с ушедшими. Подобные случаи поднимают вопросы об этических границах использования технологий, поскольку, как отмечают эксперты, мошенничество с дипфейками становится всё более изощрённым.
Это противоречивое переживание и стало сердцевиной всей истории. Искусственный интеллект не способен вернуть человека или создать реальное объятие. Но он может смоделировать нечто, что при определённом настрое покажется утешением. Для кого-то это повод пересмотреть этические границы и заявить о цифровом надругательстве. Для другого — неловкая, но реальная попытка справиться с утратой. Специалисты ФБР уже предупреждают о том, что дипфейки используются в секс-вымогательстве , создавая компрометирующие материалы о жертвах.
Мир таких приложений — не просто техническое недоразумение, а зеркало, в котором отражаются самые странные, болезненные и личные желания. Вопросы о том, где проводить границы между сексуальными фантазиями и морально недопустимым контентом, становятся всё более актуальными в эпоху развития технологий дипфейков. Остаётся лишь вопрос: кто именно смотрит в это зеркало и что надеется там увидеть?
* Компания Meta и её продукты (включая Instagram, Facebook, Threads) признаны экстремистскими, их деятельность запрещена на территории РФ.
Рынок приложений на базе искусственного интеллекта переживает очередной странный виток — теперь пользователи могут «обниматься» с вымышленными героями, целоваться с умершими родными и превращать случайные фото в криво анимированные фантасмагории. Эти приложения, заполнившие TikTok и магазины приложений, балансируют на грани неловкого и жуткого. С одной стороны — обманчиво безобидные шаблоны с котиками и бабушками, с другой — откровенно фетишистские сцены, где ИИ подгоняет тела, увеличивает грудь и превращает обычные фото в сексуализированные мини-сцены.
Алгоритмы этих приложений умеют много: поменять причёску, сделать пользователя стройнее, заставить танцевать в пижаме с ушками. Однако за кажущейся невинностью часто скрываются сомнительные функции. В одном из популярных приложений достаточно пары снимков, чтобы получить видео, где пользователь страстно обнимает или целует знаменитость — скажем, Роберта Паттинсона в образе Эдварда Каллена. Ещё один шаблон позволяет в пару кликов увеличить грудь героини с B до DD. Всё это подано с анимацией уровня детского представления о романтике — поцелуи больше напоминают механическое сминание лиц, а обнимашки выглядят, как будто кто-то пытается склеить куклу Барби с фигуркой из LEGO.
Некоторые из этих приложений принадлежат малоизвестным компаниям из Турции и Китая. За красивыми рекламными роликами и романтичными обещаниями скрывается модель монетизации, основанная на микротранзакциях: от $2.99 в неделю до $69.99 в год за доступ к ограниченному числу «кредитов» для генерации видео.
Несмотря на то что эти сервисы не распространяют откровенно порнографический контент, они часто заходят на опасную территорию — особенно в случае, когда используется изображение другого человека без согласия. Ряд функций завуалирован под развлечения или «фан-арт», но может использоваться для создания видео, нарушающих границы приватности и этики. Попытки создать подобные сцены через более строгие генераторы вроде Sora от OpenAI или Veo от Google, как правило, блокируются: там действует фильтрация по контенту, и пользователь должен подтвердить своё право на использование изображений.
В противоположность этому, в некоторых приложениях никаких проверок нет. Пользователь просто загружает пару фотографий и получает на выходе «поцелуй мечты». Правда, часто это заканчивается ошибками: разные расы в кадре приводят к тому, что алгоритмы «сглаживают» лица, адаптируя их под один тип — например, изменяя черты лица одного из участников, чтобы он больше соответствовал внешности второго. Такие артефакты лишь подчёркивают устоявшиеся в системах ИИ предвзятости.
Платформы, на которых размещаются эти приложения, пока не проявляют особой активности в регулировании ситуации. Meta* по запросу удаляет отдельные ролики и блокирует рекламу, нарушающую правила, но лишь после жалоб. Google Play запрещает сексуализированный контент, но рекламные кампании на грани допустимого всё ещё проникают в рекомендательные алгоритмы. Между тем, исследователи отмечают рост нелегальных сайтов, создающих дипфейки без согласия пользователей. Apple заявляет, что подобный «жутковатый» контент не должен появляться в App Store, но конкретных ограничений для рекламы не предусмотрено.
В одном из самых ярких эпизодов журналист, тестировавший такие приложения, создал видео, в котором покойные родители целуют и обнимают его. Сцены получились грубыми, искажёнными — улыбка матери была слишком идеальна, а волосы отца напоминали парик. Однако для других членов семьи это видео стало поводом для слёз и благодарности. Искусственный интеллект, каким бы нелепым ни был результат, дал им хотя бы призрачное ощущение связи с ушедшими. Подобные случаи поднимают вопросы об этических границах использования технологий, поскольку, как отмечают эксперты, мошенничество с дипфейками становится всё более изощрённым.
Это противоречивое переживание и стало сердцевиной всей истории. Искусственный интеллект не способен вернуть человека или создать реальное объятие. Но он может смоделировать нечто, что при определённом настрое покажется утешением. Для кого-то это повод пересмотреть этические границы и заявить о цифровом надругательстве. Для другого — неловкая, но реальная попытка справиться с утратой. Специалисты ФБР уже предупреждают о том, что дипфейки используются в секс-вымогательстве , создавая компрометирующие материалы о жертвах.
Мир таких приложений — не просто техническое недоразумение, а зеркало, в котором отражаются самые странные, болезненные и личные желания. Вопросы о том, где проводить границы между сексуальными фантазиями и морально недопустимым контентом, становятся всё более актуальными в эпоху развития технологий дипфейков. Остаётся лишь вопрос: кто именно смотрит в это зеркало и что надеется там увидеть?
* Компания Meta и её продукты (включая Instagram, Facebook, Threads) признаны экстремистскими, их деятельность запрещена на территории РФ.