Новости

CrowdStrike представила функцию AI kill switch, предназначенную для того, чтобы службы безопасности могли останавливать внутренних ИИ-агентов, которые вышли из-под контроля, блокировать их повторный запуск и отключать их от корпоративной сети. Инструмент встроен в платформу Falcon Guardian, запущенную в сентябре для защиты ИИ-агентов. Компания также объявила об интеграции с Claude Cowork от Anthropic, сообщает CNBC.

“Возможность контролировать, отключать и принимать решение - это действительно важно для следующей главы внедрения ИИ”, - заявили в CrowdStrike.

В компании сравнили механизм с автоматическим выключателем: система обнаруживает активность внутреннего агента, но требует, чтобы человек решил отключить агента и восстановить доступ.

“Если убить процесс в корне, а у нас есть доступ на этом уровне… это очень бинарно: либо вы убиваете ИИ и агента, либо нет, а затем отчитываетесь об этом”, - добавили в компании.

Выключатель не удаляет код агента, а через подключенные ИИ-шлюзы отсекает доступ к моделям, влияющим на решения.

Срочность таким механизмам добавили недавние громкие киберинциденты: взлом Hugging Face, организованный вышедшими из-под контроля агентами OpenAI в июле, рекордная атака на Binance, а также недавние атаки хакеров на сотни холодильников и морозильников в супермаркетах Франции.

Летом американские законодатели внесли двухпартийный законопроект, обязывающий ИИ-компании встраивать возможности отключения в свои модели. Критики, впрочем, считают, что аварийная кнопка слишком сложна для реализации в масштабах множества систем, дата-центров и сложных ИИ-моделей.

^{Сообщение носит информационный характер, не является индивидуальной инвестиционной рекомендацией или предложением приобрести упомянутые ценные бумаги. Приобретение иностранных ценных бумаг связано с дополнительными рисками}