Из-за одного слова inDrive случайно заблокировал около 5 тысяч аккаунтов

Комментарий со словом «насос» неожиданно обернулся блокировкой аккаунта в inDrive. Как позже выяснилось, такая история произошла не с одним человеком.

Казахстанец рассказал в Threads, что оставил комментарий на казахском языке, в котором посоветовал водителю купить электрический насос для автомобиля в Астане. Вскоре приложение ограничило его аккаунт.

На экране появилось уведомление:

«Ваш аккаунт заблокирован… Мы заметили, что с вашего аккаунта были отправлены неуместные предложения и комментарии. Чтобы обезопасить пользователей, мы ограничиваем аккаунты за такое поведение».

По словам автора публикации, он несколько раз пытался связаться со службой поддержки, но ответа не получил.

Позже ситуацию лично прокомментировал основатель и генеральный директор inDrive Арсен Томский. По его словам, причиной оказался не комментарий пользователя, а неудачное обновление приложения.

«Разобрались. Выкатили обновление с ошибкой для защиты от неприличных предложений в комментариях. Система автоматически забанила около 5 тысяч пользователей, в том числе автора поста, наверное, за слово "насос". Обнаружили баг через час, откатили, забаненных разблокировали. Бывает. Приносим извинения за неудобства», — написал Томский.

По словам главы компании, ошибку обнаружили примерно через час после выпуска обновления. После этого его откатили, а все аккаунты, попавшие под автоматическую блокировку, восстановили.

История вызвала активное обсуждение в соцсетях. Многие пользователи отметили, что подобные случаи еще раз показывают, насколько сильно современные алгоритмы модерации зависят от контекста: иногда обычное слово может быть ошибочно воспринято системой как нарушение правил платформы.