Когда ИИ служит хаосу — ChatGPT помогает ломать оборонку, писать трояны и нанимать шпионов
NewsMakerС каждым запросом он всё меньше напоминает инструмент и всё больше — соучастника.
OpenAI заблокировала десятки учётных записей ChatGPT, которые использовались группами, связанными с правительствами ряда стран, для проведения вредоносных операций. Речь идёт о масштабной и многоуровневой активности — от генерации фейковых политических комментариев до помощи в создании вредоносных программ и мошеннических схем трудоустройства.
По итогам внутреннего расследования, компания выявила подозрительную активность со стороны пользователей из Китая, Северной Кореи, Ирана и Филиппин, а также отдельных преступных сетей из Камбоджи. Все они использовали возможности ChatGPT для различных нелегальных целей, но в целом их действия укладываются в три основные категории: создание комментариев для влияния на соцсети, техническая помощь при подготовке кибератак и поддержка в фейковом трудоустройстве.
Наибольшую активность в сфере манипуляции общественным мнением продемонстрировали аккаунты из Китая. Они массово генерировали политически ангажированные сообщения на английском, китайском и урду, размещавшиеся на платформах вроде TikTok, X*, Reddit и Facebook**.
Среди тем — дискредитация USAID, критика Тайваня и нападки на пакистанскую активистку Махранг Балоч, критикующую китайские инвестиции в Белуджистане. Публикации сопровождались подставными диалогами: одни аккаунты размещали комментарии , другие — отвечали на них, имитируя живое обсуждение. Несмотря на усилия, реальный охват этих кампаний оказался минимальным.
Иранские участники использовали ChatGPT для генерации политически окрашенных комментариев на разные геополитические темы. Также были заблокированы аккаунты, зарегистрированные на Филиппинах — они концентрировались на продвижении политического имиджа президента Бонгбонга Маркоса и активно публиковали тексты в его поддержку.
В технической части злоумышленники, связанные с китайскими группировками APT5 (Keyhole Panda) и APT15 (Vixen Panda), использовали ChatGPT для уточнения скриптов перебора паролей, автоматизации перебора логинов, сканирования портов и генерации кода для активности в соцсетях. Уже имея вредоносное ПО для удалённого управления Android-устройствами, они использовали ИИ для повышения точности своих операций. Среди запросов — поиск информации о технологиях спутниковой связи, инфраструктуре американских спецслужб, идентификационных картах и оборудовании. Всё это сопровождалось попытками анализа уязвимостей систем, связанных с американским оборонным сектором.
OpenAI подчеркнула, что запретила все подобные учётные записи и передала информацию партнёрам в отрасли. При этом в компании заявили, что ИИ не предоставил нападающим уникальных возможностей, которых нельзя было бы получить из открытых источников.
Злоумышленники проявили высокую осторожность — использовали временные почтовые адреса, создавали отдельные аккаунты для каждого запроса и постепенно улучшали вредоносный код. Речь шла о вредоносе, получившем от OpenAI название ScopeCreep. Он позволял повышать привилегии, обходить системы обнаружения, красть учётные данные и передавать информацию через Telegram. По данным специалистов, благодаря быстрой реакции и взаимодействию с партнёрами из отрасли удалось предотвратить массовое распространение ScopeCreep, несмотря на то, что его образцы были зафиксированы на VirusTotal.
Ещё одним направлением стала деятельность, связанная с поддельными резюме и вакансиями. Особенно активно себя проявили хакеры из Северной Кореи, использовавшие ChatGPT для генерации правдоподобных анкет, сопроводительных писем и даже общения от имени фейковых соискателей. Они пытались автоматизировать процесс массовой подачи заявок на вакансии, исследовали способы скрытой работы с корпоративным оборудованием и инструменты для постоянного удалённого доступа, обхода защитных систем и имитации законной удалёнки.
В параллельной активности, обнаруженной в Камбодже, аккаунты ChatGPT использовались для массовой генерации коротких сообщений на английском, испанском, суахили, кинируанда, немецком и гаитянском креольском. Эти сообщения предлагали пользователям высокую оплату за простые действия — например, лайки в соцсетях. По данным OpenAI, операция имела централизованный характер и, вероятно, координировалась из одного места. Камбоджа остаётся эпицентром индустрии кибермошенничества, в которую втягивают людей с разных континентов, зачастую против их воли.
OpenAI подчёркивает, что такие действия нарушают принципы ответственного использования ИИ, и компания продолжит отслеживать и предотвращать попытки злоупотребления своими моделями.
* Социальная сеть X запрещена на территории Российской Федерации.
** Meta и её продукты (включая Instagram, Facebook, Threads) признаны экстремистскими, их деятельность запрещена на территории РФ.
OpenAI заблокировала десятки учётных записей ChatGPT, которые использовались группами, связанными с правительствами ряда стран, для проведения вредоносных операций. Речь идёт о масштабной и многоуровневой активности — от генерации фейковых политических комментариев до помощи в создании вредоносных программ и мошеннических схем трудоустройства.
По итогам внутреннего расследования, компания выявила подозрительную активность со стороны пользователей из Китая, Северной Кореи, Ирана и Филиппин, а также отдельных преступных сетей из Камбоджи. Все они использовали возможности ChatGPT для различных нелегальных целей, но в целом их действия укладываются в три основные категории: создание комментариев для влияния на соцсети, техническая помощь при подготовке кибератак и поддержка в фейковом трудоустройстве.
Наибольшую активность в сфере манипуляции общественным мнением продемонстрировали аккаунты из Китая. Они массово генерировали политически ангажированные сообщения на английском, китайском и урду, размещавшиеся на платформах вроде TikTok, X*, Reddit и Facebook**.
Среди тем — дискредитация USAID, критика Тайваня и нападки на пакистанскую активистку Махранг Балоч, критикующую китайские инвестиции в Белуджистане. Публикации сопровождались подставными диалогами: одни аккаунты размещали комментарии , другие — отвечали на них, имитируя живое обсуждение. Несмотря на усилия, реальный охват этих кампаний оказался минимальным.
Иранские участники использовали ChatGPT для генерации политически окрашенных комментариев на разные геополитические темы. Также были заблокированы аккаунты, зарегистрированные на Филиппинах — они концентрировались на продвижении политического имиджа президента Бонгбонга Маркоса и активно публиковали тексты в его поддержку.
В технической части злоумышленники, связанные с китайскими группировками APT5 (Keyhole Panda) и APT15 (Vixen Panda), использовали ChatGPT для уточнения скриптов перебора паролей, автоматизации перебора логинов, сканирования портов и генерации кода для активности в соцсетях. Уже имея вредоносное ПО для удалённого управления Android-устройствами, они использовали ИИ для повышения точности своих операций. Среди запросов — поиск информации о технологиях спутниковой связи, инфраструктуре американских спецслужб, идентификационных картах и оборудовании. Всё это сопровождалось попытками анализа уязвимостей систем, связанных с американским оборонным сектором.
OpenAI подчеркнула, что запретила все подобные учётные записи и передала информацию партнёрам в отрасли. При этом в компании заявили, что ИИ не предоставил нападающим уникальных возможностей, которых нельзя было бы получить из открытых источников.
Злоумышленники проявили высокую осторожность — использовали временные почтовые адреса, создавали отдельные аккаунты для каждого запроса и постепенно улучшали вредоносный код. Речь шла о вредоносе, получившем от OpenAI название ScopeCreep. Он позволял повышать привилегии, обходить системы обнаружения, красть учётные данные и передавать информацию через Telegram. По данным специалистов, благодаря быстрой реакции и взаимодействию с партнёрами из отрасли удалось предотвратить массовое распространение ScopeCreep, несмотря на то, что его образцы были зафиксированы на VirusTotal.
Ещё одним направлением стала деятельность, связанная с поддельными резюме и вакансиями. Особенно активно себя проявили хакеры из Северной Кореи, использовавшие ChatGPT для генерации правдоподобных анкет, сопроводительных писем и даже общения от имени фейковых соискателей. Они пытались автоматизировать процесс массовой подачи заявок на вакансии, исследовали способы скрытой работы с корпоративным оборудованием и инструменты для постоянного удалённого доступа, обхода защитных систем и имитации законной удалёнки.
В параллельной активности, обнаруженной в Камбодже, аккаунты ChatGPT использовались для массовой генерации коротких сообщений на английском, испанском, суахили, кинируанда, немецком и гаитянском креольском. Эти сообщения предлагали пользователям высокую оплату за простые действия — например, лайки в соцсетях. По данным OpenAI, операция имела централизованный характер и, вероятно, координировалась из одного места. Камбоджа остаётся эпицентром индустрии кибермошенничества, в которую втягивают людей с разных континентов, зачастую против их воли.
OpenAI подчёркивает, что такие действия нарушают принципы ответственного использования ИИ, и компания продолжит отслеживать и предотвращать попытки злоупотребления своими моделями.
* Социальная сеть X запрещена на территории Российской Федерации.
** Meta и её продукты (включая Instagram, Facebook, Threads) признаны экстремистскими, их деятельность запрещена на территории РФ.