WhatsApp научил ИИ читать ваши сообщения… не читая их
NewsMakerНи один человек не должен узнать, что происходит между строк.
Компания Meta* добавила в WhatsApp новую технологию под названием «Private Processing», которая позволит использовать функции искусственного интеллекта без ущерба для приватности. По словам разработчиков, это решение позволит резюмировать непрочитанные сообщения, редактировать текст и выполнять другие действия с помощью ИИ, при этом сохраняя приватность сообщений пользователей.
Основная идея — дать пользователям доступ к ИИ, не раскрывая при этом содержание переписки ни Meta, ни WhatsApp, ни кому-либо ещё. Все запросы будут обрабатываться в изолированной среде, названной конфиденциальной виртуальной машиной (Confidential Virtual Machine, CVM). Именно в этой среде происходит безопасная обработка данных — даже технически владельцы платформы не смогут получить к ним доступ.
В основе подхода лежат несколько архитектурных гарантий. Первая — это обеспечиваемые технически обязательства: если кто-то попытается вмешаться в систему и нарушить её конфиденциальность, она либо прекращает работу, либо становится уязвимой для внешнего обнаружения. Вторая — возможность внешнего аудита: пользователи и исследователи смогут проверять работу механизма. И третья — невозможность индивидуального таргетирования. Если кто-то захочет выделить одного пользователя, ему придётся нарушить всю систему безопасности сразу, что делает атаку практически невозможной.
Чтобы запрос обрабатывался, WhatsApp использует анонимные удостоверения и соединение через Oblivious HTTP (OHTTP). Это технология, скрывающая IP-адрес пользователя и создающая зашифрованный канал между устройством и сервером Meta. Передача запроса идёт через сторонний ретранслятор, и только потом — в доверенную среду исполнения (Trusted Execution Environment), где данные дешифруются и анализируются.
Обработка сообщений в Private Processing также не оставляет следов. После завершения операции ни сама система, ни злоумышленник не смогут восстановить содержимое прошлых запросов — всё устроено так, чтобы исключить даже гипотетическую возможность восстановления данных.
Meta признаёт существование потенциальных уязвимостей. К ним относятся атаки через скомпрометированных сотрудников, уязвимости в цепочках поставок и действия вредоносных пользователей. Но в компании уверяют, что система спроектирована с многослойной защитой, минимизирующей шансы на взлом.
Для повышения прозрачности Meta намерена публиковать хэши и образы CVM-бинарников. Это даст возможность исследователям сверять их с оригиналом и выявлять случаи возможной утечки данных.
Новая технология перекликается с инициативой Apple под названием Private Cloud Compute (PCC), которая также работает через OHTTP и обрабатывает запросы в изолированной среде. В конце 2023 года Apple позволила специалистам протестировать PCC и оценить её уровень защиты.
Таким образом, WhatsApp делает очередной шаг в сторону безопасного ИИ — с сохранением главного принципа: личная переписка остаётся личной.
* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.
Компания Meta* добавила в WhatsApp новую технологию под названием «Private Processing», которая позволит использовать функции искусственного интеллекта без ущерба для приватности. По словам разработчиков, это решение позволит резюмировать непрочитанные сообщения, редактировать текст и выполнять другие действия с помощью ИИ, при этом сохраняя приватность сообщений пользователей.
Основная идея — дать пользователям доступ к ИИ, не раскрывая при этом содержание переписки ни Meta, ни WhatsApp, ни кому-либо ещё. Все запросы будут обрабатываться в изолированной среде, названной конфиденциальной виртуальной машиной (Confidential Virtual Machine, CVM). Именно в этой среде происходит безопасная обработка данных — даже технически владельцы платформы не смогут получить к ним доступ.
В основе подхода лежат несколько архитектурных гарантий. Первая — это обеспечиваемые технически обязательства: если кто-то попытается вмешаться в систему и нарушить её конфиденциальность, она либо прекращает работу, либо становится уязвимой для внешнего обнаружения. Вторая — возможность внешнего аудита: пользователи и исследователи смогут проверять работу механизма. И третья — невозможность индивидуального таргетирования. Если кто-то захочет выделить одного пользователя, ему придётся нарушить всю систему безопасности сразу, что делает атаку практически невозможной.
Чтобы запрос обрабатывался, WhatsApp использует анонимные удостоверения и соединение через Oblivious HTTP (OHTTP). Это технология, скрывающая IP-адрес пользователя и создающая зашифрованный канал между устройством и сервером Meta. Передача запроса идёт через сторонний ретранслятор, и только потом — в доверенную среду исполнения (Trusted Execution Environment), где данные дешифруются и анализируются.
Обработка сообщений в Private Processing также не оставляет следов. После завершения операции ни сама система, ни злоумышленник не смогут восстановить содержимое прошлых запросов — всё устроено так, чтобы исключить даже гипотетическую возможность восстановления данных.
Meta признаёт существование потенциальных уязвимостей. К ним относятся атаки через скомпрометированных сотрудников, уязвимости в цепочках поставок и действия вредоносных пользователей. Но в компании уверяют, что система спроектирована с многослойной защитой, минимизирующей шансы на взлом.
Для повышения прозрачности Meta намерена публиковать хэши и образы CVM-бинарников. Это даст возможность исследователям сверять их с оригиналом и выявлять случаи возможной утечки данных.
Новая технология перекликается с инициативой Apple под названием Private Cloud Compute (PCC), которая также работает через OHTTP и обрабатывает запросы в изолированной среде. В конце 2023 года Apple позволила специалистам протестировать PCC и оценить её уровень защиты.
Таким образом, WhatsApp делает очередной шаг в сторону безопасного ИИ — с сохранением главного принципа: личная переписка остаётся личной.
* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.