Автономните превозни средства се оказаха с огромен проблем

Системите за изкуствен интелект, които се използват от автономните автомобили, имат сериозен пропуск в безопасността. Последните изследвания на британски учени разкриват тревожни разлики в ефективността на откриването на пешеходци. Особено проблематично е, че те „виждат“ зле най-младите участници в движението.

Изследователи от Кралския колеж в Лондон са анализирали осем системи за откриване на пешеходци, използвани в изследванията на автономното шофиране. Над 8000 тестови снимки са преминали през софтуера, като резултатите са притеснителни. Оказва се, че те са с близо 20% по-ефективни при откриване на възрастни, отколкото на деца и с повече от 7,5% по-добри в идентифицирането на хора със светла кожа в сравнение с хората с тъмна кожа.

Проблемът се изостря при условия на слаба светлина. През нощта или привечер алгоритмите имат още по-големи трудности при откриването на тъмнокожи хора, което прави технологията особено опасна, когато видимостта вече е ограничена. Според д-р Дзие Джан, съавтор на изследването, справедливостта в контекста на изкуствения интелект означава равно третиране на всички социални групи.

„Автомобилните производители не разкриват подробности за софтуера, използван за откриване на пешеходци, но тъй като те обикновено се основават на същите системи с отворен код, които сме тествали, можем да бъдем почти сигурни, че те са изправени пред същите проблеми“, обяснява ученият.

Алгоритмите се учат от предоставените данни и те съдържат непропорционално повече снимки на светлокожи възрастни. Система, обучена на небалансиран набор от данни, неизбежно ще възпроизведе тези различия в реална работа.