Интернет-пользователи обратили внимание на то, какие результаты Google выдает на запросы professional hair (профессиональная прическа) и unprofessional hair (непрофессиональная, любительская прическа). Оказалось, что по первому запросу поисковик показывает преимущественно женщин белого цвета кожи, а по второму — преимущественно темнокожих. На ситуацию обратило внимание издание The Guardian.
Алгоритмы Google, тем не менее, редко анализируют картинки самостоятельно. При поиске снимков по тому или иному запросу он ориентируется в первую очередь на его описание, которое создают к ним пользователи. По-видимому, пишет The Guardian, по запросу unprofessional hair (непрофессиональная прическа) поисковик брал изображения из блогов и статей, в которых обсуждался вопрос того, насколько «непрофессиональными» можно считать традиционные прически, например, кудри, косички и дреды. И в качестве иллюстрации чаще всего использовались фотографии темнокожих женщин, поскольку для них такие прически более характерны.
Ранее Google Photos пометил фотографию двух афроамериканцев тегом «гориллы».