В Технологическом институте Джорджии выяснили, что системы, с помощью которых беспилотные автомобили распознают людей, с трудом «видят» темнокожих.
Идентифицировать лицо темнокожего человека сложно и системе распознавания лиц, и, как выяснилось, системе, распознающей человеческие образы вообще. Это не только ужасно не политкорректно, но грозит авариями на дорогах.
ИИ может попросту не заметить темнокожего человека и угрожать, таким образом, его жизни. Учёные из Джорджии пришли к этому выводу, протестировав 8 одинаково обученных беспилотников. Тестирование проходило с помощью изображений пешеходов с различным цветом кожи. Как выяснилось, сложнее всего беспилотным машинам «заметить» людей с тремя самыми тёмными оттенками кожи по шкале Фитцпатрика.
Дело, вероятно, в недостаточном числе изображений темнокожих людей в базах обучения ИИ. Если дополнить данные, проблема может быть решена.
