Заклеймить, отследить, наказать: ИИ-контент попадёт под государственное око
NewsMakerВ России может появится новый понятийный аппарат.
Институт социально-экономического анализа и программ развития (ИСАПР) предложил ввести обязательную маркировку материалов, созданных с использованием искусственного интеллекта. Обращение было направлено в конце мая премьер-министру Михаилу Мишустину. Предполагается, что такая мера поможет противодействовать распространению дипфейков и обеспечит защиту пользователей от вводящей в заблуждение информации. В случае нарушений предлагалось применять санкции, аналогичные тем, что действуют при незаконной обработке персональных данных. При этом недавно вступившие в силу изменения в законодательстве ужесточили такие штрафы: для повторных нарушений теперь предусмотрены оборотные взыскания до 3% от выручки компаний.
В начале июля ИСАПР получил официальный ответ от Минцифры, с которым ознакомились «Известия». В нём, по словам замминистра Александра Шойтова, приоритетом сейчас является нормативное закрепление правовых условий для законного создания, распространения и использования ИИ-контента. Одновременно подчеркивается, что на уровне законодательства пока отсутствуют точные определения ключевых понятий, таких как «дипфейк», «искусственный интеллект» и «синтетический контент».
Наряду с этим, отмечается в письме, необходимо проработать вопрос целесообразности введения маркировки цифрового контента и механизмов контроля за её соблюдением для противодействия мошенничеству. В частности, предстоит определить уполномоченные органы и круг лиц, на которых будет возложена обязанность по маркировке. Также предполагается разработать технические меры по выявлению и маркировке дипфейков, в том числе в рамках «Единой системы» АНО «Диалог Регионы» и национального проекта «Экономика данных и цифровая трансформация государства».
Минцифры также указало, что совместно с Роскомнадзором и другими профильными федеральными органами власти ведётся разработка предложений по установлению требований к маркировке контента , легально производимого и распространяемого с использованием ИТ, включая ИИ и технологии цифровой подмены изображения человека.
Дополнительно, как указано в письме, может быть рассмотрен вопрос о введении уголовной ответственности за создание, распространение или использование «синтетического контента» с применением ИИ без согласия лица, изображение или голос которого использовались. Уголовное наказание предлагается вводить в случае причинения вреда правам и законным интересам граждан.
Эксперты считают, что надёжных механизмов различения промаркированного и немаркированного ИИ-контента пока нет, но технологии для частичного выявления уже существуют. По их мнению, маркировка всего ИИ-контента нецелесообразна: её эффективность будет ограничена, поскольку злоумышленники не станут соблюдать требования. Вместо этого предлагается развивать системный фактчекинг, внедрять скрытую разметку и сосредоточиться на отслеживании распространителей фейков . Также отмечается, что маркировка может стать конкурентным преимуществом для СМИ и блогеров, использующих ИИ в меньшей степени. Некоторые эксперты призывают к осторожности при введении уголовных норм, указывая на риски для добропорядочных пользователей и ограниченную сдерживающую силу подобных мер.
Институт социально-экономического анализа и программ развития (ИСАПР) предложил ввести обязательную маркировку материалов, созданных с использованием искусственного интеллекта. Обращение было направлено в конце мая премьер-министру Михаилу Мишустину. Предполагается, что такая мера поможет противодействовать распространению дипфейков и обеспечит защиту пользователей от вводящей в заблуждение информации. В случае нарушений предлагалось применять санкции, аналогичные тем, что действуют при незаконной обработке персональных данных. При этом недавно вступившие в силу изменения в законодательстве ужесточили такие штрафы: для повторных нарушений теперь предусмотрены оборотные взыскания до 3% от выручки компаний.
В начале июля ИСАПР получил официальный ответ от Минцифры, с которым ознакомились «Известия». В нём, по словам замминистра Александра Шойтова, приоритетом сейчас является нормативное закрепление правовых условий для законного создания, распространения и использования ИИ-контента. Одновременно подчеркивается, что на уровне законодательства пока отсутствуют точные определения ключевых понятий, таких как «дипфейк», «искусственный интеллект» и «синтетический контент».
Наряду с этим, отмечается в письме, необходимо проработать вопрос целесообразности введения маркировки цифрового контента и механизмов контроля за её соблюдением для противодействия мошенничеству. В частности, предстоит определить уполномоченные органы и круг лиц, на которых будет возложена обязанность по маркировке. Также предполагается разработать технические меры по выявлению и маркировке дипфейков, в том числе в рамках «Единой системы» АНО «Диалог Регионы» и национального проекта «Экономика данных и цифровая трансформация государства».
Минцифры также указало, что совместно с Роскомнадзором и другими профильными федеральными органами власти ведётся разработка предложений по установлению требований к маркировке контента , легально производимого и распространяемого с использованием ИТ, включая ИИ и технологии цифровой подмены изображения человека.
Дополнительно, как указано в письме, может быть рассмотрен вопрос о введении уголовной ответственности за создание, распространение или использование «синтетического контента» с применением ИИ без согласия лица, изображение или голос которого использовались. Уголовное наказание предлагается вводить в случае причинения вреда правам и законным интересам граждан.
Эксперты считают, что надёжных механизмов различения промаркированного и немаркированного ИИ-контента пока нет, но технологии для частичного выявления уже существуют. По их мнению, маркировка всего ИИ-контента нецелесообразна: её эффективность будет ограничена, поскольку злоумышленники не станут соблюдать требования. Вместо этого предлагается развивать системный фактчекинг, внедрять скрытую разметку и сосредоточиться на отслеживании распространителей фейков . Также отмечается, что маркировка может стать конкурентным преимуществом для СМИ и блогеров, использующих ИИ в меньшей степени. Некоторые эксперты призывают к осторожности при введении уголовных норм, указывая на риски для добропорядочных пользователей и ограниченную сдерживающую силу подобных мер.