Стартап может распознавать фейковые видео в режиме реального времени

Кристофер Рен отлично изображает Элона Маска.

Рен - менеджер по продуктам в Reality Defender, компании, которая создает инструменты для борьбы с дезинформацией ИИ. Во время видеозвонка на прошлой неделе я наблюдал, как он с помощью вирусного кода на GitHub и одной фотографии создал упрощенную глубокую подделку Элона Маска, которая накладывается на его собственное лицо. Эта цифровая пародия должна была продемонстрировать, как может работать новый инструмент стартапа по обнаружению ИИ. Пока Рен маскировался под Маска в нашем видеочате, стоп-кадры из разговора активно отправлялись в пользовательскую модель Reality Defender для анализа, а виджет компании на экране предупреждал меня о том, что я, скорее всего, смотрю на сгенерированный ИИ deepfake, а не на настоящего Элона.Конечно, я никогда не думал, что мы разговариваем по видеосвязи с Маском, а демонстрация была построена специально для того, чтобы технология Reality Defender, находящаяся на ранней стадии разработки, выглядела впечатляюще, но проблема совершенно реальна. Подделки видео в реальном времени представляют собой растущую угрозу для правительств, компаний и частных лиц. Недавно председатель комитета Сената США по международным отношениям по ошибке принял видеозвонок с человеком, выдававшим себя за украинского чиновника. Ранее в 2024 году международная инженерная компания потеряла миллионы долларов, когда один из сотрудников был обманут видеозвонком с подделкой. Подобные приемы использовались и в романтических аферах, нацеленных на обычных людей.Стартап нацелен на сотрудничество с деловыми и государственными клиентами, чтобы помочь предотвратить подделки с помощью искусственного интеллекта. Но даже несмотря на эту основную миссию, Колман не хочет, чтобы его компанию воспринимали как компанию, в целом выступающую против развития искусственного интеллекта. «Мы выступаем за искусственный интеллект», - говорит он. «Мы считаем, что 99,999 процента случаев использования искусственного интеллекта являются преобразующими - для медицины, производительности, творчества, - но в таких очень, очень маленьких случаях риски несоизмеримо выше».

План Reality Defender по созданию детектора реального времени состоит в том, чтобы начать с плагина для Zoom, который сможет делать активные прогнозы о том, являются ли другие участники видеозвонка настоящими или это пародия на ИИ. В настоящее время компания работает над сравнительным тестированием инструмента, чтобы определить, насколько точно он отличает настоящих участников видеосвязи от поддельных. К сожалению, опробовать его вы сможете не скоро. Новая функция программного обеспечения будет доступна только в бета-версии для некоторых клиентов стартапа.

Это объявление - не первый случай, когда технологическая компания делится планами по выявлению подделок в режиме реального времени. В 2022 году Intel представила свой инструмент FakeCatcher для обнаружения подделок. FakeCatcher предназначен для анализа изменений в кровотоке лица, чтобы определить, является ли участник видео реальным. Инструмент Intel также не находится в открытом доступе.