Искусственный интеллект в камерах Amazon фиксирует несуществующие нарушения водителей

Водители доставки Amazon пожаловались на камеры наблюдения, установленные в их фургонах. Дело в том, что встроенный в камеры искусственный интеллект (ИИ) наказывает их за ошибки, которых они не совершали, вследствие чего водители теряют бонусы и дополнительную оплату за безопасное вождение.

Amazon delivery drivers say that rather than encouraging safe driving, the company's surveillance cameras regularly punish them for so-called "events" that are beyond their control or don't constitute unsafe driving. https://t.co/XUOQYAFt46

— VICE (@VICE) September 20, 2021

В начале 2021 года Amazon установила камеры с искусственным интеллектом в фургонах доставки на одном из своих складов в Лос-Анджелесе. Водитель доставки на объекте, сказал, что камера в его фургоне начала штрафовать его всякий раз, когда машины подрезали его, что было обычным явлением в дорожном движении Лос-Анджелеса:

«Каждый раз, когда мне нужно повернуть направо, это неизбежно происходит. Машина подрезает меня, чтобы выехать на мою полосу, и камера этим действительно мрачным, механическим голосом кричит на меня».

После каждой регистрации подобного события камера загружает отснятый материал в систему, где это фиксируется, потом влияет на на оценку, которую водители получают в конце недели за безопасное вождение.

Водители Amazon говорят, что их наказывают за некоторые привычки вождения, которые являются абсолютно безопасными: смотреть в боковые зеркала, регулировать радио или выключать навигатор. Также водители говорят, что они надевают солнцезащитные очки, чтобы камеры не могли определить движение глаз и не снижали баллы, если водитель смотрел куда то-то в сторону.

Но в Amazon не считают происходящее некорректной работой системы, заявив, что камеры помогли улучшить статистику аварий с участием водителей доставки: количество несчастных случаев снизилось на 48%, нарушений по светофорам и знакам – на 77%, случаев вождения без ремня безопасности стало меньше на 60%, 75% водителей перестали отвлекаться на смартфон.

Сами же водители считают, что камеры наблюдения на базе искусственного интеллекта позволяют компании экономить средства. Голосовое информирование системы отвлекает на дороге, отмечают они. Нарекание также вызывает то, что камеры фиксируют знаки остановки даже на грунтовой дороге, где их быть не может. Иногда это вынуждает водителей совершать по две остановки в местах с подобными уведомлениями.