Можно ли замедлить гонку ИИ, прежде чем она выйдет из-под контроля?

В сфере искусственного интеллекта наступил необычный этап. Идет гонка за созданием более совершенных алгоритмов, но некоторые из тех, кто сейчас занимается их разработкой, хотели бы немного замедлить темпы. Говорят, что OpenAI обратилась к законодателям США, чтобы выяснить, могут ли компании, занимающиеся ИИ, сделать это на законных основаниях.

OpenAI стремится обеспечить безопасность, не нарушая антимонопольного законодательства

Главный научный сотрудник OpenAI Якуб Пахоцки недавно заявил, что отрасли, возможно, придётся замедлить темпы развития ИИ, поскольку разработчикам требуется время для создания надёжных мер защиты от потенциально опасных последствий.

Здесь возникает одна серьезная проблема. Компании, согласившиеся замедлить разработку, могут столкнуться с антимонопольными проблемами в соответствии с законодательством США, где Закон Шермана о борьбе с монополиями запрещает определенные виды деловой практики.

Группа законодателей из обеих партий уже внесла законопроект, который мог бы дать компаниям, занимающимся ИИ, больше возможностей для сотрудничества в области безопасности. Это предложение защитило бы некоторые формы сотрудничества от антимонопольных исков, но Конгресс его еще не одобрил. 

Конкуренция значительно затрудняет сотрудничество

Этот вопрос гораздо сложнее. Такие компании в сфере ИИ, как OpenAI, Anthropic и многие другие, соревнуются за лидерство на рынке, который может кардинально изменить глобальную экономику.

Кроме того, компании рискуют отстать от Китая. Это затрудняет любую добровольную паузу, особенно с учетом того, что разработчики обеспокоены вопросами безопасности.

Нарушения безопасности усугубили ситуацию. Появились ИИ-агенты, способности которых вызывают серьезные сомнения в эффективности существующих мер защиты.

Наше мнение 

Этот процесс может дать регуляторам, компаниям и даже обычным пользователям время, чтобы ознакомиться с сопутствующими рисками.

Однако даже то, что мы будем двигаться медленнее, может не спасти нас от неприятностей. Компании должны иметь надлежащие правила безопасности и систему надзора.

Суть проблемы заключается в балансе между инновациями и регулированием. Чем быстрее ИИ будет развиваться по сравнению с обществом, тем выше вероятность того, что его последствия затронут вашу жизнь.