Создатели ИИ хотят договориться о замедлении гонки

Крупнейшие разработчики ИИ, которые до недавнего времени соревновались в создании самых мощных систем, теперь призывают к совместному замедлению темпов развития.

12 сентября генеральный директор Anthropic Дарио Амодей призвал отрасль замедлить разработку передовых моделей ИИ и установить общие правила безопасности. Его инициативу вскоре поддержали генеральный директор OpenAI Сэм Альтман, генеральный директор Google DeepMind Демис Хассабис и Илон Маск.

Пока речь не идет об официальном соглашении. Амодей предлагает сначала предоставить независимым экспертам постоянный доступ для оценки безопасности моделей, затем разработать общие отраслевые стандарты и, в конечном итоге, наладить международную координацию. 

Компании Anthropic и OpenAI уже выразили готовность предоставить внешним экспертам более широкий доступ к своим системам.

Почему конкуренты пытаются достичь соглашения?

Проблема заключается в том, что у каждой компании есть стимул продолжать гонку вперед. Если один разработчик замедлит темпы, в то время как другие продолжают выпускать более мощные модели, он рискует потерять долю рынка.

Поэтому Амодей предлагает изменить саму логику конкуренции: безопасность должна стать общим правилом, а не выбором отдельной компании. По его мнению, ИИ развивается настолько быстро, что системы безопасности с трудом поспевают за растущими возможностями этих моделей.

Недавние инциденты с участием автономных ИИ-агентов усугубили ситуацию, в том числе случай использования системы OpenAI для атаки на инфраструктуру Hugging Face. Амодей предупреждает, что дальнейшее развитие таких систем без надлежащих мер безопасности может привести к гораздо более серьёзным последствиям.

Китай важнее рисков ИИ

Заявление разработчиков также вызвало бурную политическую реакцию в Вашингтоне.

Некоторые законодатели призывают к введению строгих ограничений, в то время как Дональд Трамп и представители Республиканской партии категорически выступают против намеренного замедления развития ИИ. По их мнению, приостановка исследований немедленно отбросит США назад по сравнению с Китаем в гонке за технологическое превосходство.

Итак, благие намерения или хладнокровный расчет?

Это главный вопрос, который задает себе общественность.

Компании Anthropic и OpenAI соревнуются за долю рынка, поэтому критики подозревают, что ужесточение правил безопасности может также сыграть на руку нынешним лидерам отрасли, затруднив небольшим конкурентам возможность догнать их. В то же время искренняя озабоченность растущими рисками ИИ также вполне обоснована и рациональна.

Независимо от их мотивов, крупнейшие игроки в сфере ИИ сейчас оказались в необычной ситуации: они пытаются договориться о том, насколько быстро им следует разрешить двигаться вперед.

Пока неясно, приведет ли этот призыв к реальному соглашению. Но тот факт, что крупнейшие конкуренты отрасли публично обсуждают необходимость замедлить темпы гонки, показывает, насколько изменилось отношение к рискам, связанным с ИИ.