Израильтяне нашли критическую уязвимость автопилота Tesla
Команда инженеров из Израиля нашла критическую уязвимость в работе алгоритмов искусственного интеллекта, используемого электрокарами компании Tesla, потенциально способную привести к ДТП.
За активацию соответствующий функции Tesla просит $7000, а основатель компании Илон Маск считает ИИ полноценным, отмечая, что он готов к активной эксплуатации на дорогах общего назначения
Как выяснилось, обмануть систему можно при помощи портативного проектора, который выводил на проезжую часть изображения пешехода и измененной разметки.
В ходе эксперимента израильских исследователей из Университета Бен-Гуриона автопилот Tesla не справился со своей задачей и сбил виртуального пешехода, распознав в нем человека тогда, когда тормозить было уже поздно.
Еще хуже обстоят дела с разметкой. Обнаружив поддельные линии, автомобиль выехал на встречную полосу, поставив под угрозу сразу несколько транспортных средств.
Для того чтобы в будущем избежать подобных проблем, исследователи предложили обучать нейросети всем возможным вариантам развития событий, которые могут встретиться на дороге, вплоть до анализа изображений на основе освещения, размера объектов и их положения. Инженеры отправили результаты тестов компании Tesla, однако её сотрудники отказались от комментариев, заявив о модификации аппаратной части электрокара Model X.