В Казахстане введут еще один штраф

Мажилис одобрил в первом чтении законопроект, который впервые вводит чёткие правила использования искусственного интеллекта и защищает граждан от цифровых манипуляций, передает Finratings.kz.

Национальная платформа и контроль: как в Казахстане хотят развивать ИИ

В Мажилисе одобрили законопроект, который станет первым правовым документом, регулирующим сферу искусственного интеллекта в Казахстане. Как заявила депутат Екатерина Смышляева, речь идет о системном подходе к технологии, чьи возможности сравнимы с рисками:

«Развитие искусственного интеллекта сопровождается как большими возможностями, так и серьёзными рисками. Одним из ключевых остаётся отсутствие правового регулирования в этой сфере. Данный законопроект закрывает этот пробел, решая несколько задач».

Одним из центральных элементов инициативы станет создание Национальной платформы ИИ — технологической инфраструктуры, объединяющей среду разработки, данные и сервисы. Платформа будет предоставлять доступ к специализированным библиотекам и наборам данных для обучения ИИ-моделей. Также в рамках закона предусмотрено финансирование научных исследований, запуск образовательных программ и поддержка международного сотрудничества.

По словам Смышляевой, эти меры необходимы, чтобы Казахстан не только не отстал, но и занял прочные позиции на мировом рынке высоких технологий.

Автономные алгоритмы и риски: что собираются запретить

Особый акцент в законопроекте сделан на вопросах безопасности. Все ИИ-системы предлагается классифицировать по уровню риска — от минимального до высокого. Те, что попадают в категорию «высокого риска», будут приравнены к объектам критически важной ИКТ-инфраструктуры. Это позволит усилить надзор и применить существующие нормы к их контролю.

Дополнительно предлагается ввести градацию по типам ИИ-систем: помощники, полуавтономные алгоритмы и полностью автономные. Последние, как наиболее непредсказуемые, будут запрещены для использования в стране.

Манипуляции, дипфейки и эмоции: что ещё под запретом

Закон также вводит прямые запреты на целый ряд практик использования ИИ. Под ограничение попадают технологии, которые:

• воздействуют на поведение человека без его информированного согласия;
• используют уязвимости людей (по возрасту, здоровью или социальному положению);
• занимаются социальным скорингом — кроме случаев, прямо разрешенных законом;
• анализируют эмоции людей без их разрешения;
• распознают лица в реальном времени в общественных местах, кроме специальных случаев;
• создают и распространяют контент, нарушающий закон, включая дипфейки.

За нарушение предусмотрены штрафы от 15 до 100 МРП, особенно если системы используются для манипулирования общественным мнением или создания фейков.

«Важным элементом регулирования является возмещение вреда, причинённого системами ИИ. Закон предусматривает, что в случае причинения ущерба пользователям системы ИИ, ответственность за это несут владельцы и операторы систем. Страхование ответственности за вред, причинённый ИИ, предлагается как добровольная мера, но оно может стать важным элементом защиты прав граждан», — добавила Смышляева.

Законопроект прошёл первое чтение и в ближайшее время будет доработан ко второму этапу обсуждения.