Как ИИ может быть предвзятым? Исслед база телефонных номеров ована наличие и влияние предвзятости ИИ. Например, новая статья Массачусетского технологического института и Стэнфордского университета обнаружила, что системы распознавания лиц от известных технологических компаний имели более высокие показатели ошибок для женщин и людей с более темным тоном кожи. Эксперименты показали, что частота ошибок при определении пола у светлокожих мужчин постоянно была ниже 0,8 процента, тогда как у темнокожих женщин частота ошибок была значительно выше, превысив 20 процентов в одном случае и превысив 34 процента в двух других случаях.
Учитывая эту тенденцию к более частой неправильной идентификации таких лиц, системы искусственного интеллекта могут привести к потенциальной дискриминации в таких областях, как обеспечение соблюдения законов и процесс найма, поскольку такие методы могут (и часто используются) использоваться для выявления возможных преступников и лиц, разыскиваемых правоохранительными органами. Результаты исследования также вызывают обеспокоенность по поводу обучения и оценки нейронных сетей, используемых в этих программах, подчеркивая важность изучения предвзятости в системах анализа лиц и указывая на необходимость дальнейшего изучения возможных различий в других приложениях ИИ.
