Загрузил фото на Facebook и тебя “раздели” в другой части планеты. Meta борется с новым трендом
NewsMakerАлгоритмы распознают одежду быстрее, чем политики успевают понять, что происходит.
Meta* подала в суд на гонконгскую компанию Joy Timeline HK Limited, обвиняя её в массовом распространении на Facebook* и Instagram* рекламы приложения, использующего ИИ для создания обнажённых изображений без согласия людей. В иске утверждается, что Joy Timeline стояла за сервисом Crush AI , который рекламировался как инструмент, способный «стянуть одежду» с любой фотографии.
Рекламные объявления с такими предложениями распространялись десятками тысяч, несмотря на то что Meta регулярно удаляла их, закрывала страницы и аккаунты, а также блокировала домены, по которым можно было перейти к соответствующим приложениям. Согласно материалам иска, с 2023 года компания неоднократно предпринимала меры против Joy Timeline, но те продолжали размещать NSFW-рекламу , нарушающую политику платформ.
В иске подчёркивается, что Joy Timeline систематически обходила запреты, создавая новые бизнес-аккаунты и повторно размещая аналогичную рекламу. Meta настаивает, что без вмешательства суда компания и дальше будет действовать вразрез с её правилами.
Как следует из документов, к февралю 2025 года более 135 страниц на Facebook и как минимум 170 бизнес-аккаунтов распространяли около 87 000 объявлений с рекламой «раздевающих» приложений. Среди примеров в иске описано одно из таких объявлений: женщина в чёрном топе и шортах показана с разделением изображения на две части — слева она одета, с пометкой «NSFW», а справа — с удалённой одеждой и подписями «BRA OFF» и «PANTS OFF». Под рекламой размещались призывы загрузить фото, чтобы «раздеть за минуту» или «создать танцевальное видео».
Meta утверждает, что рассматривает подобные злоупотребления как серьёзную угрозу и намерена активно противодействовать этому. В дополнение к иску, компания сообщила о новых мерах , направленных на ограничение распространения таких сервисов. В частности, она будет делиться ссылками на нарушающие приложения и сайты с другими технологическими компаниями через программу Lantern , запущенную в рамках Tech Coalition. Уже передано более 3 800 уникальных URL-адресов.
Кроме того, Meta использует собственную технологию для выявления таких объявлений, даже если в них нет прямых изображений обнажённого тела. Используется система сопоставления для быстрого выявления клонов и новых попыток обмана. В компании отмечают, что будут и дальше прибегать к судебным и другим мерам, чтобы ограничить распространение эксплуатирующих и неэтичных ИИ-сервисов.
* Компания Meta и её продукты (включая Instagram, Facebook, Threads) признаны экстремистскими, их деятельность запрещена на территории РФ.
Meta* подала в суд на гонконгскую компанию Joy Timeline HK Limited, обвиняя её в массовом распространении на Facebook* и Instagram* рекламы приложения, использующего ИИ для создания обнажённых изображений без согласия людей. В иске утверждается, что Joy Timeline стояла за сервисом Crush AI , который рекламировался как инструмент, способный «стянуть одежду» с любой фотографии.
Рекламные объявления с такими предложениями распространялись десятками тысяч, несмотря на то что Meta регулярно удаляла их, закрывала страницы и аккаунты, а также блокировала домены, по которым можно было перейти к соответствующим приложениям. Согласно материалам иска, с 2023 года компания неоднократно предпринимала меры против Joy Timeline, но те продолжали размещать NSFW-рекламу , нарушающую политику платформ.
В иске подчёркивается, что Joy Timeline систематически обходила запреты, создавая новые бизнес-аккаунты и повторно размещая аналогичную рекламу. Meta настаивает, что без вмешательства суда компания и дальше будет действовать вразрез с её правилами.
Как следует из документов, к февралю 2025 года более 135 страниц на Facebook и как минимум 170 бизнес-аккаунтов распространяли около 87 000 объявлений с рекламой «раздевающих» приложений. Среди примеров в иске описано одно из таких объявлений: женщина в чёрном топе и шортах показана с разделением изображения на две части — слева она одета, с пометкой «NSFW», а справа — с удалённой одеждой и подписями «BRA OFF» и «PANTS OFF». Под рекламой размещались призывы загрузить фото, чтобы «раздеть за минуту» или «создать танцевальное видео».
Meta утверждает, что рассматривает подобные злоупотребления как серьёзную угрозу и намерена активно противодействовать этому. В дополнение к иску, компания сообщила о новых мерах , направленных на ограничение распространения таких сервисов. В частности, она будет делиться ссылками на нарушающие приложения и сайты с другими технологическими компаниями через программу Lantern , запущенную в рамках Tech Coalition. Уже передано более 3 800 уникальных URL-адресов.
Кроме того, Meta использует собственную технологию для выявления таких объявлений, даже если в них нет прямых изображений обнажённого тела. Используется система сопоставления для быстрого выявления клонов и новых попыток обмана. В компании отмечают, что будут и дальше прибегать к судебным и другим мерам, чтобы ограничить распространение эксплуатирующих и неэтичных ИИ-сервисов.
* Компания Meta и её продукты (включая Instagram, Facebook, Threads) признаны экстремистскими, их деятельность запрещена на территории РФ.