Может ли ИИ обанкротить простого человека? Страховщики бьют тревогу

Сенат вернул в Мажилис законопроект об искусственном интеллекте на доработку — главным камнем преткновения стал вопрос ответственности и страхования рисков, связанных с использованием ИИ. Сенаторы считают, что в документе недостаточно проработана тема возможного ущерба, который могут нанести системы на базе нейросетей, и не определено, кто именно должен компенсировать потери, передает Finratings.kz.

В чём проблема

По данным СК «Евразия», в принятой Мажилисом версии закона страхованию вреда, причинённого ИИ, была посвящена лишь одна строчка: страхование может быть добровольным. Сенат предложил добавить возможность обязательного страхования, поскольку риски уже сегодня выходят за рамки теории.

Ключевой вопрос: кто отвечает, если ошибка искусственного интеллекта приводит к финансовому или иному ущербу — пользователь, разработчик или владелец системы? Пока чёткого ответа в законе нет.

Как ИИ уже применяется и где возникают риски

Искусственный интеллект в Казахстане давно используется не только в чат-ботах:

• страховые компании внедряют системы компьютерного зрения для автоматического распознавания документов и расчёта страховых выплат;

• ИИ помогает оценивать повреждения автомобилей после ДТП — ошибка алгоритма может привести к недоплате клиенту;

• нейросети применяют при управленческих решениях крупных компаний — просчёт может обойтись бюджетам в миллиарды тенге;

• в Казахстане уже ездят электромобили с системами автопилотирования — и вопрос ответственности за аварии остаётся открытым.

Международный рынок тоже готовится к новым рискам. Например, Munich Re предлагает страховку aiSure, покрывающую «галлюцинации» нейросетей и нарушения приватности данных.

Что предстоит сделать страховому рынку

Если в закон будет включено обязательное страхование, страховым компаниям нужно будет:

• определить виды рисков и источники ответственности,

• научиться оценивать вероятность ошибок и их стоимость,

• сформировать тарифы и лимиты выплат.

А пока информации и статистики для расчётов почти нет.

Что дальше

Закон вернули в Мажилис для уточнений и детальной проработки страховых механизмов. Эксперты признают: развитие ИИ неизбежно, но использовать его без системы защиты — риск для граждан, компаний и государства.

ИИ уже меняет экономику — вопрос лишь в том, какой ценой и кто заплатит за ошибки машин.