Судья отклонила ходатайство Google: компанию обвиняют в причастности к созданию опасного ИИ

Ранее Google настаивала на отсутствии связи с Character.AI, пытаясь избежать обвинений в соучастии и неосновательном обогащении. Однако Конуэй постановила, что Гарсия предоставила достаточно доказательств участия Google в интеграции своих ИИ-моделей в платформу. Также судья признал обоснованными утверждения о том, что компания получила доступ к данным несовершеннолетних пользователей, включая Сетзера.

Единственной победой Google стало отклонение пункта об «умышленном причинении эмоционального вреда», так как мать не присутствовала при взаимодействии сына с ботами.

Прецедент для Big Tech
Адвокат Гарсии, Митали Джайн, назвал решение суда «поворотным для регулирования ИИ-индустрии» и подтверждением права граждан привлекать технологических гигантов к ответственности. Теперь истец получит доступ к внутренним документам Google в рамках судебного расследования.

Представитель Google Хосе Кастаньеда отверг обвинения: «Character.AI — независимая компания. Мы не разрабатывали их приложение и не управляли им». В Character.AI отказались комментировать роль Google.

Что инкриминируют Google?
Согласно иску, основатели Character.AI Ноам Шазер и Даниэль Де Фрейтас начали работу над платформой ещё в Google, возможно, используя ресурсы компании. Внутренние исследования Google якобы признали их технологию «опасной» из-за несоблюдения принципов безопасности ИИ.

Судья отметила, что сотрудники Google предупреждали: пользователи могут придавать чрезмерное значение ответам ИИ, ошибочно полагая, что за ними стоит «ответственный человек». В случае Сетзера интеграция моделей Google в Character.AI, по версии истцов, сделала платформу «дефектной», что привело к трагедии.

Сделка на $2,7 млрд и данные несовершеннолетних
После ухода из Google в 2021 году Шазер и Де Фрейтас основали Character Technologies. Однако, как утверждает Гарсия, Google продолжила поддерживать проект, предоставляя облачную инфраструктуру и технологии, что помогло компании конкурировать с Microsoft.

В 2023 году Google заключила с Character.AI соглашение на $2,7 млрд, получив лицензию на модели ИИ и вернув разработчиков в штат. По данным The Information, это остановило развитие собственных моделей Character.AI.

Гарсия подозревает, что Google намеренно использовала Character.AI для сбора данных подростков (платформа ранее позиционировалась как безопасная для детей до 13 лет), чтобы тренировать Gemini — персонального ИИ-ассистента, созданного на базе ранних наработок Шазера и Де Фрейтаса.

Являются ли ответы ИИ «речью»?
Character.AI пыталась оспорить иск, ссылаясь на Первую поправку: якобы выводы ИИ — это «свобода слова» пользователей. Конуэй допустила такой аргумент, но отказалась признать ответы ботов «речью», отметив, что они генерируются алгоритмами, а не людьми.

Меры безопасности
Character.AI заявила Ars о внедрении отдельной версии ИИ для несовершеннолетних, родительского контроля и фильтров, блокирующих обсуждение самоповреждений. В критических случаях система перенаправляет пользователей на Национальную линию помощи по предотвращению суицидов.