Сотни экспертов призвали приостановить обучение наследника GPT-4

NN_coding-min.webp
Более тысячи отраслевых экспертов, включая Илона Маска и Стива Возняка, призвали на шесть месяцев приостановить обучение языковых моделей мощнее GPT-4 от OpenAI.

Соответствующее открытое письмо Института будущего жизни подписали ученые, бизнесмены и независимые исследователи. Эксперты считают, что разработку продвинутого ИИ необходимо поставить на паузу до тех пор, пока не появятся общие протоколы безопасности для таких конструкций.

«Крупные игроки становятся все более скрытными в отношении того, что они делают, что затрудняет защиту общества от любого вреда, который может материализоваться», — добавил Маркус.
Вероятно, обеспокоенность представителей отрасли возросла с активным развитием больших языковых моделей и чат-ботов на их основе. С момента анонса ChatGPT в ноябре 2022 года техгиганты и стартапы вступили в новую ИИ-гонку.

В феврале Microsoft и Google одна за другой представили поисковые сервисы на базе диалоговых алгоритмов.

В марте OpenAI открыла доступ к API ChatGPT, что позволило десяткам компаний интегрировать чат-бота в собственные приложения.

За последние два месяца Microsoft представила ряд ИИ-функций на основе разработок OpenAI для своих продуктов, включая Word, Excel, PowerPoint, Outlook, Teams, GitHub, Bing, Dynamics и Azure.

Напомним, в марте Европол предупредил об угрозах со стороны ChatGPT.

В том же месяце генеральный директор OpenAI Сэм Альтман признал риски, связанные с чат-ботом.

В январе разработчик ChatGPT предупредил об использовании ИИ дезинформаторами.