Решение Google для случайного алгоритмического расизма: запрет горилл

После того, как Google подвергся критике в 2015 году для распознавания алгоритм, который автоматически помеченные цены черные люди, как “гориллы”, компания обещала “срочные меры”, чтобы предотвратить повторение ошибки.

Это действие было просто запретить Google фотографии из когда-либо маркировки любого изображения как гориллы, шимпанзе, или обезьяной – даже цены приматы сами.

Это вывод, сделанный журнала Wired, который протестировал более 40 000 изображений животных на службу. Фото точно отмеченные изображения панд и пудели, но неизменно возвращается нет результатов для человекообразных обезьян и обезьян – несмотря на точно найти бабуины, гиббоны и орангутанги.

Google подтвердил, что сроки были удалены из поиска и тегов изображений непосредственно в результате происшествия 2015, сказал, что: “технологии маркировки изображения еще рано и, к сожалению, далеки от идеала”.

Горилла слепота встречается в других местах поперек платформы от Google: линзы от Google, приложение камеры, которая идентифицирует объекты на изображениях, также отказываются признавать горилл. Но помощник Google сможет правильно определить приматов, как Google и "бизнес-бизнес" распознавания изображений Google виртуальный видения.

Неспособность компании развивать более устойчивые исправить в следующие два года свидетельствовали о том, что технологии машинного обучения, которая поддерживает функцию распознавания изображений, до сих пор зреет.

Такие технологии часто описывается как “черный ящик”, способный производить мощные результаты, но мало возможностей их создателей, чтобы точно понимать, как и почему они принимают решения они.

Особенно это касается первой волны систем распознавания образов, которые Google фото стало частью. В то же время, что был выпущен продукт, на Flickr выпустил аналогичную функцию, функцию автоматической пометки – который имеет почти одинаковый набор проблем.

Яху-принадлежит платформа для обмена фотографиями помечены изображением черного человека как “обезьяна”, и фото концлагеря Дахау как “турника”. Ответ на Flickr был почти таким же, как Google: компании, видимо, убрали слово “обезьяна” из своего лексикона пометки полностью. ИИ программы демонстрируют расовые и гендерные предрассудки, исследование показывает,

Категория: Технологии