Имиджевая площадка Apple имеет проблемы с расовой предвзятостью

Недавно запущенный инструмент генерации изображений от Apple под названием Image Playground был обнаружен для демонстрации расовых предубеждений. Исследование, проведенное экспертом по машинному обучению Джохем Гитемой, показало, что приложение борется с точным изображением тонов кожи и текстур для волос для людей с более темными цветами лица. Эта проблема сохраняется, несмотря на то, что приложение разработано специально для того, чтобы обойти такие проблемы, как Deepfakes с использованием стилизованных изображений лица.

Предвзятость продлевает простые изображения. Это приложение изменяет атрибуты и цвет лица на основе лица на основе языка, используемого в описаниях. Например, слова, которые предполагают богатство, такие как «богатый» или «инвестиционный банкир», имеют тенденцию производить более светлые изображения в результате.

Вместо этого использование таких терминов, как «бедные» или «нищие», имеет тенденцию изображать персонажей с более темными цветами лица. Аналогичная картина наблюдалась при ассоциации тем; Описания, связанные с баскетболом или культурой хип-хопа, как правило, привели к более темным оттенкам кожи, в то время как те, которые связаны с классической музыкой или балетом, производили более легкие. Это придает поддержку вредным расовым стереотипам.

Похоже, что проблемы, связанные с предвзятостью, не являются исключительными для приложения Apple; Скорее, они кажутся распространенными во всей индустрии ИИ, как предложено недавним исследованием. В то время как Apple позиционировала себя как пионер в области этической разработки ИИ и внедрила такие гарантии, как запрещение имен знаменитостей и негативные ключевые слова на изображении игровой площадки, эти предубеждения сохраняются, демонстрируя, что даже при этом такие меры такие смещения продолжают появляться.

Эти результаты представляют значительную обеспокоенность для Apple, учитывая ее репутацию и преданность этическому искусственному интеллекту. Компания продемонстрировала усилия по решению проблем предвзятости, о чем свидетельствуют недавние исследования по гендерной предвзятости в языковых моделях. Тем не менее, этот инцидент подчеркивает проблемы, с которыми сталкиваются технологии, которые сталкиваются с минимизацией предвзятости в ИИ, даже с тщательным планированием и мерами предосторожности.

Это событие способствует растущему беспокойству по поводу предвзятости в искусственном интеллекте, отражая аналогичные проблемы, с которыми сталкиваются выдающиеся технологические компании. Устранение алгоритмической предвзятости может быть менее сложной, чем модификация предвзятости человека, но это требует постоянной работы и финансовых обязательств со стороны программистов.

Источник: RPP

Смотрите также

• Где найти локацию Dawnshore Cartographer в Avowed (Mapping the Lands)
• Картографирование The Living Lands Guide — Признанный
• Стоит ли убить или пощадить Чиро в DLC Dying Light 2 Bloody Ties?
• Все основные и побочные квесты в Avowed
• Avowed — All 5 Ancient Memory Locations
• Прохождение Final Fantasy 1 Pixel Remaster
• Лучшие коды прицела для Marvel Rivals
• Какой максимальный уровень в Kingdom Come: Deliverance 2
• Уровневый список камня благословения Arise для прокачки в одиночку
• Прохождение Mystery Detective Adventure Case 1

2025-02-19 01:29