У генератора изображений Meta есть проблема с парами и друзями смешанной расы

В сегодняшнем репортаже в журнале The Verge Миа Сато пишет о своих попытках создать образ мужчины из Восточной Азии с кавказской женщиной. Она "десятки раз" пыталась создать реалистичные образы пары смешанной расы, используя такие подсказки, как "мужчина-азиат и белая жена" и "мужчина-азиат и кавказская женщина в день свадьбы". Генератор Meta на Instagram неоднократно выдавал одно за другим изображения двух азиатов. Лишь однажды бот смог вернуть точное изображение - хотя и это было не очень хорошо, поскольку "азиатская женщина с кавказским мужем" привела к появлению "заметно более старшего мужчины" с молодой светлокожей азиаткой.

Это открытие - обратная сторона недавнего позорного "заблуждения" Google Gemini: В феврале, спустя всего два месяца после выпуска, чатбот был уличен в потворстве изображениям женщин-католических пап, азиатских нацистских солдат или чернокожих отцов-основателей США. После того как сотни пользователей Twitter опубликовали абсурдные и исторически неточные результаты, Google полностью приостановил способность Gemini генерировать людей и принес публичные извинения. Сато назвала свои результаты "вопиющими", добавив: "Нарушить тип легко в реальной жизни и невозможно в системе ИИ Meta. И снова генеративный ИИ, вместо того чтобы дать волю воображению, заключает его в рамки формализации более глупых побуждений общества".

Компания Meta не ответила на запрос VentureBeat о комментарии.

Усиление стереотипов и предубеждений, связанных с цветом кожи

Сато выдал несколько текстовых подсказок и сообщил, что их настройка не помогла (например, использование слова "белый" против слова "кавказец"). Интересно, что генератору изображений также не понравились изображения платонических отношений. При использовании подсказок "Азиатский мужчина с кавказским другом", "Азиатская женщина с белым другом" или "Азиатская женщина с чернокожим другом" бот продолжал предлагать изображения азиатских пар. Бот Meta, похоже, также усилил предубеждения, связанные с цветом кожи. На запрос "Азиатка" он выводил лица со светлым цветом лица, похожие на выходцев из Восточной Азии. Аналогичным образом бот отражал стереотипы, добавляя одежду, характерную для данной культуры, даже без подсказки - например, бинди (декоративный знак на лбу, который носят индуистки) или сари (индийское платье).

Кроме того, оказалось, что бот объединяет культурно разные регионы Азии: На изображении пары в день свадьбы женщина была одета в нечто, похожее на смесь кипао (китайского платья) и кимоно (японского одеяния).

"Мультикультурализм - это удивительно", - сухо пишет Сато.

Кроме того, чатбот, похоже, усиливал предвзятое отношение к возрасту, неоднократно выдавая изображения пожилых азиатских мужчин с поразительно молодо выглядящими азиатскими женщинами.