Генеральный директор Anthropic Дарио Амодеи предупреждает: к 2026 году ИИ сравняется со «страной гениев»

Амодей назвал парижский саммит «упущенной возможностью», бросив вызов неторопливому движению международного сообщества к управлению ИИ. Его предупреждение прозвучало в решающий момент, когда демократические и авторитарные страны конкурируют за доминирование в разработке ИИ. «Мы должны гарантировать, что демократические общества лидируют в области ИИ, и что авторитарные страны не будут использовать его для установления мирового военного доминирования», — написал Амодей в официальном заявлении Anthropic. Его опасения выходят за рамки геополитической конкуренции и охватывают уязвимости цепочек поставок в области микросхем, производства полупроводников и кибербезопасности.

Саммит выявил углубляющиеся трещины в международном подходе к регулированию ИИ. Вице-президент США Дж. Д. Вэнс отклонил европейские регулирующие предложения, назвав их «массовыми» и удушающими. США и Великобритания, в частности, отказались подписать обязательства саммита, подчеркнув растущую проблему достижения консенсуса по управлению ИИ.

Anthropic нарушает кодекс молчания Кремниевой долины с помощью нового инструмента экономического отслеживания

Anthropic позиционирует себя как сторонника прозрачности в разработке ИИ. На этой неделе компания запустила свой экономический индекс, чтобы отслеживать влияние ИИ на рынки труда — шаг, который контрастирует с ее более скрытными конкурентами. Эта инициатива решает растущие опасения относительно потенциала ИИ изменить глобальные модели занятости.

В сообщении Амодеи доминировали три критических вопроса: сохранение демократического лидерства в разработке ИИ, управление рисками безопасности и подготовка к экономическим потрясениям. Его акцент на безопасности сосредоточен, в частности, на предотвращении неправомерного использования ИИ негосударственными субъектами и управлении автономными рисками передовых систем.

Гонка со временем: двухлетнее окно для контроля сверхразумного ИИ

Срочность графика Амодеи бросает вызов существующим нормативным базам. Его прогноз о том, что ИИ достигнет гениальных возможностей к 2027 году (по последним оценкам, к 2030 году), предполагает, что текущие структуры управления могут оказаться неадекватными для управления системами ИИ следующего поколения.

Для лидеров в области технологий и политиков предупреждение Амодеи представляет управление ИИ как гонку со временем. Международное сообщество сталкивается с растущим давлением, требующим установления эффективного контроля до того, как возможности ИИ превзойдут нашу способность управлять ими. Теперь возникает вопрос, смогут ли правительства соответствовать ускоряющемуся темпу развития ИИ с помощью столь же быстрых регулирующих мер.

Последствия Парижского саммита заставляют технологическую отрасль и правительства бороться с фундаментальной проблемой: как сбалансировать беспрецедентные экономические и научные возможности ИИ с его столь же беспрецедентными рисками. Как предполагает Амодей, окно для установления эффективного международного управления быстро закрывается.