Google стремится к аутентичности в эпоху искусственного интеллекта с помощью новой системы маркировки контента

Во вторник компания Google объявила о планах по внедрению технологии проверки подлинности контента в свои продукты, чтобы помочь пользователям различать изображения, созданные человеком и искусственным интеллектом. В течение нескольких ближайших месяцев технологический гигант интегрирует стандарт Coalition for Content Provenance and Authenticity (C2PA), систему, предназначенную для отслеживания происхождения и истории редактирования цифрового контента, в свои сервисы поиска, рекламы и, возможно, YouTube. Однако вопрос о том, сможет ли технологическое решение решить древнюю социальную проблему доверия к записанным медиа, произведенным незнакомцами, остается открытым.

Группа технологических компаний создала систему C2PA в 2019 году в попытке бороться с вводящими в заблуждение, реалистичными синтетическими медиа в Интернете. Поскольку контент, созданный искусственным интеллектом, становится все более распространенным и реалистичным, эксперты обеспокоены тем, что пользователям может быть сложно определить подлинность изображений, с которыми они сталкиваются. Стандарт C2PA создает цифровой след для контента, подкрепленный онлайн-подписью, который включает в себя метаданные о происхождении изображений и их модификации.

Google включит этот стандарт C2PA в результаты поиска, позволяя пользователям видеть, было ли изображение создано или отредактировано с помощью инструментов искусственного интеллекта. Функция «Об этом изображении» в Google Search, Lens и Circle to Search будет отображать эту информацию, когда она будет доступна.

В своем блоге Лори Ричардсон, вице-президент Google по вопросам доверия и безопасности, признала сложности, связанные с установлением контента.Компания планирует использовать новейший технический стандарт C2PA, версию 2.1, который, как сообщается, обеспечивает повышенную безопасность от атак на фальсификацию. Его использование выйдет за рамки поиска, поскольку Google намерена включить метаданные C2PA в свои рекламные системы в качестве способа «обеспечения соблюдения ключевых политик». В будущем в YouTube также может появиться интеграция информации C2PA для контента, снятого камерой.

По словам Google, новая инициатива согласуется с другими ее усилиями по обеспечению прозрачности ИИ, включая разработку SynthID, технологии встроенного водяного знака, созданной Google DeepMind.

Широкомасштабная эффективность C2PA остается мечтой

Несмотря на то, что история C2PA насчитывает уже не менее пяти лет, путь к созданию такой полезной технологии проверки подлинности контента, как C2PA, очень крут. Технология является полностью добровольной, и ключевые аутентификационные метаданные могут быть легко удалены из изображений после их добавления.

ИИ-генераторы изображений должны поддерживать стандарт, чтобы информация C2PA включалась в каждый сгенерированный файл, что, скорее всего, не позволит использовать такие модели синтеза изображений с открытым исходным кодом, как Flux. Поэтому, возможно, на практике более «аутентичные» носители, созданные камерами, будут маркироваться C2PA, чем изображения, сгенерированные ИИ.

Кроме того, для поддержания метаданных требуется полный инструментарий, поддерживающий C2PA на каждом шагу, включая исходный код и любое программное обеспечение, используемое для редактирования или ретуширования изображений. В настоящее время стандарт C2PA поддерживают лишь несколько производителей камер, например Leica. Nikon и Canon пообещали принять его,.Adobe Photoshop и Lightroom могут добавлять и поддерживать данные C2PA, но многие другие популярные инструменты редактирования пока не имеют такой возможности. Достаточно одного несоответствующего требованиям редактора изображений в цепочке, чтобы нарушить всю полезность C2PA. Отсутствие стандартизированных методов просмотра данных C2PA на онлайн-платформах является еще одним препятствием на пути к тому, чтобы сделать стандарт полезным для обычных пользователей.

В настоящее время C2PA можно рассматривать как технологическое решение проблемы, которая выходит за рамки технологии. Как выяснили историки и журналисты на протяжении веков, достоверность информации не зависит от механизма, используемого для записи информации на фиксированный носитель. Она зависит от достоверности источника.

В этом смысле C2PA может стать одним из многих инструментов, используемых для проверки подлинности контента путем определения того, поступила ли информация из достоверного источника - если метаданные C2PA будут сохранены, - но вряд ли он сам по себе станет полным решением проблемы дезинформации, генерируемой ИИ.