AutoAlign отделилась от Armilla и запустила платформу безопасности с искусственным интеллектом 'Sidecar'

Во вторник компания AutoAlign, ведущий поставщик решений для обеспечения безопасности ИИ, объявила о выделении из своей материнской компании Armilla, чтобы сосредоточиться на защите и совершенствовании систем ИИ для корпоративных клиентов. Компания также представила свой флагманский продукт «Sidecar» - новый подход к безопасности ИИ, который работает вместе с существующими моделями для обнаружения и смягчения потенциальных проблем, таких как галлюцинации данных, попытки взлома и предвзятость.

Выделение происходит в тот момент, когда Armilla переключает свое внимание на предоставление страховой индустрии решений по передаче рисков для систем искусственного интеллекта. «С одной стороны, мы защищаем [системы искусственного интеллекта] и делаем их более надежными, а с другой - страхуем их», - сказал в интервью VentureBeat Дэн Адамсон, временный генеральный директор и соучредитель AutoAlign. «Обе части этой работы идут полным ходом... но очень важно, чтобы они выполнялись как отдельные единицы».

По мере того как все больше предприятий стремятся внедрить технологии искусственного интеллекта, необходимость в надежных решениях для обеспечения безопасности становится все более очевидной. «Мы видим много прототипов. Но мы не видим, чтобы многие из них запускались в производство из-за этих проблем", - говорит Адамсон. «Это огромная проблема... Более трех четвертей [ИТ-директоров и технических директоров] считают риски, связанные с [запуском систем искусственного интеллекта], главной причиной, по которой они не запускают их в производство».

Платформа Sidecar от AutoAlign призвана решить эти проблемы, обеспечивая контекстный, адаптивный подход к безопасности ИИ. «Вы можете сохранить мощь этих сильных моделей, сделав их безопасными и эффективными», - сказал Адамсон в интервью VentureBeat.AutoAlign также объявила о заключении соглашения о сотрудничестве с компанией KPMG, чтобы сопоставить политические рамки доверительного ИИ консалтингового гиганта с фактическими элементами контроля выравнивания в системе AutoAlign. «KPMG уже некоторое время является лидером в области ответственного ИИ, и у них есть система доверительного ИИ, которая в значительной степени находится на уровне политики», - сказал Адамсон. «Благодаря этому соглашению мы смогли сопоставить эти политики с фактическими элементами управления выравниванием в Autoalign, так что они могут сопоставить каждый принцип с этими элементами управления».

Это партнерство призвано помочь клиентам KPMG внедрить ответственную практику ИИ и ускорить развертывание систем ИИ на производстве. «Клиенты могут один раз наметить эти элементы управления, а затем сохранить их в качестве Sidecar. И по мере развития их моделей, повторного использования или создания различных сценариев использования они смогут сохранять этот Sidecar, соответствующий этим политикам, и сохранять его", - говорит Адамсон.