Компания Gen Digital объявила о запуске Gen Agent Trust Hub — первого в мире инструмента, предназначенного для защиты пользователей при работе с автономными ИИ-агентами. Об этом сообщает finance.yahoo.com.
Новая платформа ориентирована на контроль действий ИИ-агентов, которые способны самостоятельно выполнять задачи — от управления финансами до взаимодействия с онлайн-сервисами. В Gen Digital отмечают, что с ростом автономности таких систем увеличиваются и риски несанкционированного доступа к данным и цифровым ресурсам пользователей.
Gen Agent Trust Hub включает два ключевых компонента:
AI Skills Scanner — инструмент для проверки «навыков» ИИ-агентов на наличие скрытых или вредоносных инструкций;
маркетплейс проверенных навыков — библиотеку решений, прошедших экспертную валидацию.
По словам генерального директора Gen Digital Хоуи Сюя, цель разработки — предотвратить ситуации, при которых ИИ-агенты действуют быстрее, чем человек способен оценить последствия их решений. «Автономность без доверия создаёт уязвимости», — подчеркнул он.
ИИ-агенты уже широко используются в электронной коммерции, финансовых сервисах и корпоративных системах. Согласно отраслевым исследованиям, более половины пользователей выражают обеспокоенность вопросами защиты персональных данных при работе с ИИ.
В Gen Digital считают, что запуск Agent Trust Hub позволит повысить доверие к автономным ИИ-решениям и заложить основу для формирования стандартов безопасности в этой сфере.
Leave a Reply