Учёные внедрили ИИ в Reddit ради науки, а теперь им грозит суд от самой платформы
NewsMakerЗа науку без согласия теперь можно получить иск.
Reddit рассматривает возможность подачи иска против исследователей из Цюрихского университета, которые провели тайный эксперимент с участием нейросетей в популярном сабреддите r/changemyview. Об этом сообщил главный юрисконсульт платформы Бен Ли, назвав действия учёных «неэтичными и недопустимыми».
Как выяснилось, исследователи без уведомления администрации Reddit и модераторов сабреддита внедрили десятки чат-ботов, которые вели дискуссии с пользователями на спорные темы. При этом боты выдавали себя за представителей уязвимых групп — например, за жертв сексуального насилия, психологов, работающих с травмами, или чернокожих, выступающих против движения Black Lives Matter. Всё это происходило без согласия пользователей.
Более того, с помощью другой модели ИИ исследователи анализировали историю постов каждого участника дискуссий, чтобы попытаться определить их возраст, пол, этническую принадлежность, местоположение и политические взгляды. Полученные данные использовались для повышения «убедительности» ботов. Один из промптов, опубликованный в черновике исследования, утверждал, будто пользователи дали согласие на использование своих данных, хотя на практике никто про эксперимент не знал.
Юридический отдел Reddit утверждает, что компания узнала о произошедшем только после завершения эксперимента. Все аккаунты, связанные с исследованием, уже заблокированы, а сама платформа усиливает механизмы для выявления неаутентичного контента. По словам Ли, действия исследователей нарушили не только пользовательское соглашение Reddit, но и базовые нормы прав человека и научной этики.
В Цюрихском университете подтвердили факт проведения эксперимента, но заявили, что его результаты опубликованы не будут. Представители университета объяснили, что этический комитет заранее указал на рискованность проекта и рекомендовал изменить подход, а также максимально информировать участников и строго соблюдать правила платформ. Однако подчёркивается, что рекомендации комитета не имеют юридической силы, и полная ответственность лежит на самих учёных.
После инцидента комитет намерен ужесточить процесс оценки будущих исследований и добиваться предварительного согласования с онлайн-сообществами. Сам университет начал внутреннюю проверку и пообещал пересмотреть подход к этической экспертизе подобных проектов.
Имена исследователей до сих пор не раскрыты. Черновик научной работы был опубликован без авторов, а связь с общественностью осуществлялась через анонимный email. Даже кафедра, на которой работали авторы, остаётся неизвестной. Модераторы сабреддита отказались раскрывать личности участников, ссылаясь на вопросы конфиденциальности.
Reddit рассматривает возможность подачи иска против исследователей из Цюрихского университета, которые провели тайный эксперимент с участием нейросетей в популярном сабреддите r/changemyview. Об этом сообщил главный юрисконсульт платформы Бен Ли, назвав действия учёных «неэтичными и недопустимыми».
Как выяснилось, исследователи без уведомления администрации Reddit и модераторов сабреддита внедрили десятки чат-ботов, которые вели дискуссии с пользователями на спорные темы. При этом боты выдавали себя за представителей уязвимых групп — например, за жертв сексуального насилия, психологов, работающих с травмами, или чернокожих, выступающих против движения Black Lives Matter. Всё это происходило без согласия пользователей.
Более того, с помощью другой модели ИИ исследователи анализировали историю постов каждого участника дискуссий, чтобы попытаться определить их возраст, пол, этническую принадлежность, местоположение и политические взгляды. Полученные данные использовались для повышения «убедительности» ботов. Один из промптов, опубликованный в черновике исследования, утверждал, будто пользователи дали согласие на использование своих данных, хотя на практике никто про эксперимент не знал.
Юридический отдел Reddit утверждает, что компания узнала о произошедшем только после завершения эксперимента. Все аккаунты, связанные с исследованием, уже заблокированы, а сама платформа усиливает механизмы для выявления неаутентичного контента. По словам Ли, действия исследователей нарушили не только пользовательское соглашение Reddit, но и базовые нормы прав человека и научной этики.
В Цюрихском университете подтвердили факт проведения эксперимента, но заявили, что его результаты опубликованы не будут. Представители университета объяснили, что этический комитет заранее указал на рискованность проекта и рекомендовал изменить подход, а также максимально информировать участников и строго соблюдать правила платформ. Однако подчёркивается, что рекомендации комитета не имеют юридической силы, и полная ответственность лежит на самих учёных.
После инцидента комитет намерен ужесточить процесс оценки будущих исследований и добиваться предварительного согласования с онлайн-сообществами. Сам университет начал внутреннюю проверку и пообещал пересмотреть подход к этической экспертизе подобных проектов.
Имена исследователей до сих пор не раскрыты. Черновик научной работы был опубликован без авторов, а связь с общественностью осуществлялась через анонимный email. Даже кафедра, на которой работали авторы, остаётся неизвестной. Модераторы сабреддита отказались раскрывать личности участников, ссылаясь на вопросы конфиденциальности.