Этический скандал: Главный исследователь безопасности Anthropic покинул пост с мрачным прогнозом

В индустрии ИИ произошел новый скандал: Мринанк Шарма, который возглавлял группу исследователей безопасности в компании Anthropic, объявил, что увольняется. Он также опубликовал прощальное письмо на платформе X, которое набрало более миллиона просмотров и создало ажиотаж в технологическом сообществе.

Напомним, что в Anthropic он занимался предотвращением биотерроризма, борьбой с дезинформацией и “подхалимством” ИИ (когда модель подстраивается под пользователя).

Причины ухода

Одной из главных причин ухода для Шарма стали внутренние противоречия в крупных IT-компаниях. По его словам, давление в индустрии сейчас колоссальное, что мешает руководителям и сотрудникам ставить вопросы безопасности технологий в приоритет. К сожалению, коммерческие цели — на первом плане, говорит Шарма.

После увольнения Мринанк планирует посвятить себя публичной деятельности и продвижению идей безопасного ИИ.

Шарма утверждает, что мир в опасности

Шарма не ограничился словами благодарности; в своем послании он подчеркнул, что человечество ждет множество развивающихся кризисов, из которых ИИ — это одна из угроз. Да, “Мир в опасности из-за ИИ”, но не только из-за него.

Стержнем философии бывшего топ-менеджера является дисбаланс между технологическим развитием и человеческой зрелостью. «Похоже, мы приближаемся к порогу, когда наша мудрость должна расти пропорционально нашей способности влиять на мир, иначе нас ждут последствия», пишет Шарма в своем обращении.

​Тревожные тенденции в ИИ

Этические вопросы касательно использования ИИ волнуют не только Шарму.

В сентябре прошлого года из OpenAI уволился ведущий исследователь Том Каннингем, который выражал разочарование из-за нежелания компании публиковать критические ИИ-исследования.

Такие случаи увольнения подчеркивают растущий этический конфликт между стремлением сделать ИИ по-настоящему полезным и стремлением к прибыли.