Ой. Беспилотные системы вождения авто не всегда замечают детей и темнокожих — ученые

nv.ua:

Согласно свежему исследованию Королевского колледжа Лондона, системы беспилотных автомобилей сталкиваются с проблемой предвзятости. Ученые изучили восемь систем обнаружения пешеходов, использующих искусственный интеллект, которые применяются в автономных транспортных средствах.

Результаты показали, что эти системы обнаруживают взрослых пешеходов на 20% лучше, чем детей, и на 7,5% более успешно распознают светлокожих пешеходов в сравнении с темнокожими. Особенно заметна недостаточная эффективность распознавания темнокожих людей при слабом освещении и низких настройках, что вызывает вопросы о безопасности в ночное время.Исследователи отмечают, что справедливость в отношении искусственного интеллекта достигается, когда системы одинаково эффективно работают с разными группами людей.

Доктор Цзе Чжан, один из авторов исследования, высказал обеспокоенность тем, что беспилотные автомобили не проявляют такой равноправной обработки пешеходов. Он также отметил, что производители автомобилей не предоставляют подробной информации о используемом программном обеспечении, но предположил, что многие из них используют аналогичные системы с открытым исходным кодом, которые подверглись исследованию.Исследование не включало программное обеспечение, используемое в реальных беспилотных автомобилях, но эксперты считают, что оно усиливает обеспокоенность о безопасности, поскольку автономные транспортные средства все более интегрируются в повседневную жизнь.

В этом контексте становится более актуальной проблема аварий и конфликтов в связи с использованием такой технологии.Крупные компании, занимающиеся беспилотными автомобилями, такие как Waymo и Cruise, пока не предоставили комментарии по этому вопросу. Однако представитель Waymo подчеркнул, что