Илон Маск предложил «очистить» базу знаний для ИИ. Эксперты предупредили о рисках
CryptoWatcher
ИИ-стартап xAI Илона Маска перепишет «все человеческие знания» для обучения новой версии чат-бота Grok.
«Прямо из “1984”. Вы не смогли заставить Grok согласиться с вашими личными убеждениями, поэтому собираетесь переписать историю, чтобы она соответствовала вашим взглядам», — написал он.
Профессор логики и философии науки в Миланском университете Бернардино Сассоли де Бьянки назвал решение опасным.
«Это выходит далеко за рамки технологического риска и переходит в сферу эпистемического манипулирования. Когда могущественные миллиардеры считают историю податливой только потому, что результаты не совпадают с их убеждениями, мы имеем дело уже не с инновациями, а с контролем над повествованием. Переписывать учебные данные, чтобы они соответствовали идеологии, неправильно на всех мыслимых уровнях», — отметил эксперт.
Напомним, в мае из-за «несанкционированной модификации промпта» Grok затронул тему «геноцида белых» в Южной Африке без соответствующего запроса со стороны пользователя.