В Microsoft назвали дипфейки наибольшей проблемой ИИ
CryptoWatcher
Президент Microsoft Брэд Смит выразил обеспокоенность широким распространением реалистично выглядящего, но ложного контента. Об этом пишет The Guardian.
Во время выступлении в Вашингтоне, посвященного вопросам регулирования ИИ, Смит призвал принять меры для распознавания дипфейков.
Синхронность с OpenAI
На прошлой неделе глава OpenAI Сэм Альтман выступил перед Конгрессом США, где призвал к регулированию ИИ. CEO компании также говорил о возможном лицензировании наиболее важных технологий, чтобы разработчики соответствовали определенным критериям.
После этого Альтман отправился в Европу, где встретился с лидерами Великобритании, Франции, Германии и других стран. Там он заявил, что OpenAI придется уйти с рынка ЕС, если компания не сможет соответствовать «жестким нормам» закона об ИИ.
Многие эксперты и лидеры мнений в сфере искусственного интеллекта поддерживают намерения урегулировать технологию. В марте они подписали открытое письмо с призывом приостановить эксперименты с большими языковыми моделями.
Однако инициатива столкнулась с критикой. Основатель Microsoft Билл Гейтс считает, что пауза не поможет «усмирить» ИИ.
По словам миллиардера, в глобальном масштабе замедлять искусственный интеллект становится все труднее. Вместо этого мир должен сосредоточиться на том, чтобы использовать технологию во благо общества.
Альтман поддержал лишь некоторые тезисы открытого письма.
Усилия Microsoft по борьбе с дипфейками
На конференции Build 2023 Microsoft представила несколько сервисов для борьбы с дипфейками. В ближайшие месяцы компания запустит спецификацию C2PA для проверки изображения и видео на предмет применения Bing Image Creator или Designer.
Также Microsoft представила инструмент модерации контента Azure AI Content Safety. Сервис обучен обнаруживать токсичные картинки и тексты, сгенерированные как людьми, так и искусственным интеллектом.
Модели работают на нескольких языках. Они присваивают контенту уровень риска и уведомляют модератора о необходимости принятия мер.
Напомним, в мае экс-глава Google Эрик Шмидт назвал ИИ «экзистенциальной угрозой», из-за которой многие люди могут «пострадать или погибнуть».
В том же месяце миллиардер и инвестор Уоррен Баффетт сравнил искусственный интеллект с созданием атомной бомбы и выразил тревогу по поводу быстрого развития технологий.