ИИ развивается слишком быстро: в ООН предупредили о последствиях

Стремительное развитие искусственного интеллекта создает риски, с которыми отдельные государства не смогут справиться самостоятельно. В ООН призвали страны и технологические компании совместно разработать правила безопасности для ИИ.

16 сентября генеральный секретарь ООН Антониу Гутерриш заявил, что развитие технологии опережает понимание связанных с ней угроз. Поэтому регулирования исключительно на уровне отдельных государств может оказаться недостаточно.

«Действия на национальном уровне имеют важное значение. Но необходима глобальная координация. Потому что границы не останавливают ни ИИ, ни связанные с ним риски», – подчеркнул Гутерриш.

Под угрозой инфраструктура

Верховный комиссар ООН по правам человека Фолькер Тюрк отдельно обратил внимание на возможные последствия использования автономных систем искусственного интеллекта.

По его словам, их сбои способны нарушить работу критической инфраструктуры. В таком случае проблемы могут затронуть доступ людей к чистой воде, отоплению и финансовым услугам.

При этом часть рисков, связанных с технологией, уже проявляется. Тюрк указал на использование инструментов слежки, способных угрожать частной жизни людей.

Кроме того, автоматизация может негативно сказываться на уязвимых группах населения. Еще одной проблемой в ООН считают дезинформацию, создаваемую с помощью ИИ и способную влиять на общественные дискуссии.

Разработчиков хотят проверять

Тюрк призвал установить для разработчиков требования по проверке ИИ-систем на безопасность и соблюдение прав человека.

По его мнению, такие проверки должны проводиться независимо. Специалистам при этом необходим доступ к самим моделям, документации и информации об условиях их тестирования.

Гутерриш также предупредил о риске «гонки по нисходящей». Речь идет о ситуации, когда государства и технологические компании могут ослаблять требования безопасности в стремлении получить преимущество в развитии искусственного интеллекта.

Вопрос регулирования ИИ генеральный секретарь ООН намерен обсудить с мировыми лидерами во время Недели высокого уровня Генеральной Ассамблеи организации.

ООН требует общих правил

В организации считают, что решить проблему только национальным регулированием невозможно. Технологии и связанные с ними угрозы не ограничиваются государственными границами.

«Ни одна страна не может самостоятельно регулировать эту технологию. Ни одна компания не должна иметь возможность в одиночку решать, с какими рисками мир должен смириться. Ни один человек не должен быть вынужден отказываться от своих прав в обмен на обещания технологического прогресса», – подчеркнул Тюрк.

В ООН призывают сформировать международные правила уже сейчас. По оценке организации, решения, принимаемые на нынешнем этапе развития искусственного интеллекта, способны повлиять не только на сегодняшних пользователей технологий, но и на будущие поколения.