Эпилептические автомобили? Как аварийное освещение сбивает с толку системы автоматического управления

Аварийные огни могут нарушить работу автоматизированных систем вождения, вызывая сбои в обнаружении. Ученые разработали «Карацетамол» для решения этой проблемы, что подчеркивает более общие проблемы безопасности ИИ.

Новое исследование указывает на то, что камерные системы автоматического вождения, разработанные для повышения безопасности на дорогах, могут не распознавать объекты на дороге при подвержении мигающим аварийным сигналам, что представляет собой значительные риски, как впервые было заявлено в WIRED.

Исследователи из Университета Бен-Гуриона в Негеве и компании Fujitsu Limited обнаружили явление, которое назвали «цифровым эпилептическим припадком» или «эпилептикаром».

Как сообщает WIRED, эта проблема вызывает сбои в системах при определении объектов в соответствии с миганием огней аварийных транспортных средств, особенно в темноте. Этот недостаток может привести к тому, что автомобили, использующие такие системы, ошибочно определят или не заметят другие автомобили или препятствия, увеличивая вероятность аварий около мест чрезвычайных ситуаций.

Это исследование было вдохновлено сообщениями о столкновениях автомобилей Tesla с автопилотом со стационарными аварийными транспортными средствами в период с 2018 по 2021 год.

Хотя исследование не связывает проблему непосредственно с системой Tesla, результаты обращают внимание на возможные уязвимости в технологии определения объектов на основе камер, которая является ключевым элементом многих систем автоматизированного вождения, отмечает WIRED.

В экспериментах использовались пять коммерческих автомобильных видеорегистраторов с функциями автоматизированного вождения, и их изображения были проанализированы с помощью открытых систем обнаружения объектов.

Исследователи отмечают, что эти системы могут не отражать те, которые используют автопроизводители, и признают, что многие автомобили используют дополнительные датчики, такие как радар и лидар, для улучшения обнаружения препятствий, как сообщает WIRED.

Американская Национальная администрация безопасности дорожного движения (NHTSA) также признала проблемы с продвинутыми системами помощи водителю (ADAS) в отношении реагирования на аварийные сигналы, сообщает WIRED.

Однако, как сообщает WIRED, исследователи подчеркивают, что они не утверждают прямую связь между своими результатами и прошлыми авариями Tesla. Чтобы решить эту проблему, команда разработала программное решение под названием «Caracetamol», которое улучшает способность детекторов объектов определять автомобили с мигающими огнями.

Эксперты, такие как Эрленс Фернандес из UC San Diego, считают исправление многообещающим, в то время как Брайан Реймер из AgeLab MIT предупреждает о более широких проблемах.

Он подчеркивает необходимость прочного тестирования для выявления слепых зон в системах вождения на основе ИИ, предупреждая, что некоторые автопроизводители могут развивать технологию быстрее, чем они могут ее проверить, как сообщает WIRED.

Исследование подчеркивает сложности обеспечения безопасности при автоматизированном вождении и призывает к дальнейшему исследованию для смягчения таких рисков.