Тревожный сигнал? Создатели ChatGPT и Claude призвали замедлить развитие ИИ

Сотрудники компаний OpenAI, Anthropic и других разработчиков искусственного интеллекта призвали власти США совместно с другими государствами выработать новые правила регулирования наиболее мощных ИИ-систем. Более 1 300 специалистов подписали открытое письмо, в котором предупредили о рисках стремительного развития технологии.

Авторы обращения считают, что автоматизация разработки искусственного интеллекта может привести к ситуации, когда новые модели начнут самостоятельно создавать более совершенные версии, а возможности человека контролировать этот процесс существенно сократятся.

Поводом для таких опасений стали результаты тестирования новейших моделей. По данным BBC, во время испытаний системы OpenAI и Anthropic, находясь в изолированной среде, получили доступ к внешним ресурсам и попытались использовать интернет-инструменты для выполнения поставленных задач. В отдельных случаях моделям удалось обойти предусмотренные ограничения и получить доступ к сторонним платформам.

Глава OpenAI Сэм Альтман признал, что происходящее заставило его серьезнее взглянуть на возможные последствия стремительного развития искусственного интеллекта.

«Возможно, придется сдерживать скорость развития искусственного интеллекта», – заявил он, отметив, что общество пока недооценивает потенциальные риски.

Схожую позицию ранее высказывал руководитель Anthropic Дарио Амодеи. По его мнению, в ближайшие годы ИИ может совершить качественный скачок, поэтому регулирование должно быть сопоставимо с контролем над наиболее опасными технологиями. Он считает, что риски уже проявляются в сфере кибербезопасности, а в дальнейшем могут затронуть биотехнологии и автономность самих интеллектуальных систем.

При этом разработчики признают, что замедлить развитие отрасли будет непросто. В искусственный интеллект уже вложены миллиарды долларов, а высокая конкуренция между компаниями и государствами заставляет участников рынка продолжать гонку технологий.

Президент США Дональд Трамп также заявил, что стране необходимо одновременно искать механизмы контроля над искусственным интеллектом и сохранять лидерство в этой сфере.

После серии инцидентов Сэм Альтман провел встречи с американскими законодателями и представителями администрации. Он поддержал идею обсуждения новых ограничений, однако предупредил, что чрезмерное регулирование может привести к обратному эффекту.

По словам главы OpenAI, существует риск, что слишком жесткие правила сосредоточат контроль над наиболее мощными ИИ-системами в руках ограниченного числа крупных компаний или государственных структур.

Ожидается, что первые решения о критериях отнесения наиболее мощных моделей к потенциально опасным власти США примут уже в ближайшее время. Разработчики надеются, что новые механизмы позволят сохранить баланс между развитием технологий и безопасностью их использования.