ИИ автопилоты попали под подозрение после серии аварий в США

Национальное управление безопасности дорожного движения США (NHTSA) начало масштабную проверку в отношении компании Comma AI и ее программного обеспечения Openpilot. Поводом послужили пять ДТП, в которых пострадали пользователи систем помощи водителю. В двух инцидентах погибли три человека. Об этом 24 сентября сообщило издание Electrek, передает Day.Az со ссылкой на РЕН-ТВ.

Предметом расследования стали около 30 тысяч неофициальных устройств автопилота моделей Comma Three, Comma 3X и Comma Four. Эти гаджеты владельцы автомобилей устанавливают самостоятельно. Все они работают на базе открытого кода Openpilot, который позволяет сторонним программистам создавать собственные, модифицированные версии.

Также в центре внимания оказались рекламные заявления Comma AI. Компания обещает, что монтаж оборудования занимает всего 15 минут, после чего системой можно пользоваться часами, не прикасаясь к рулю. При этом в примечаниях к устройствам указано, что водитель обязан сохранять максимальную бдительность и быть готовым в любую секунду перехватить управление.

Ситуацию осложняет открытый характер программного обеспечения. Пользователи могут устанавливать не только официальную версию Openpilot, но и ее многочисленные модификации от сторонних разработчиков. Хотя они базируются на общей программной основе, измененный код может непредсказуемо влиять на поведение автомобиля на дороге.