Перейти к содержимому

Блог

Что вышло

Chimera Agent 0.47.0: Исправления для Guarded Runs

Семь исправлений устраняют некорректную отчетность об отклоненных вызовах инструментов, ошибки в оценке правил и проблемы целостности аудита.

Наш собственный текст о нашем же выпуске. Читать описание выпуска на GitHub

Guarded Runs теперь отчитываются корректно

Исправлена критическая проблема в guarded runs (флаг --guard). Ранее, когда вызов инструмента отклонялся правилами управления, система ошибочно сообщала об успешном выполнении. Это происходило потому, что сообщение об отказе не начиналось с error:, из-за чего проверка статуса возвращала True. Затронуты три ключевых компонента:

  1. Визуализация в desktop frame
  2. Лог шагов для квитанций
  3. Детектор дрейфа

В результате прогоны, где все опасные действия были заблокированы, отображались как успешные во всех структурированных выводах. Модель могла даже подтверждать выполнение действий, которые никогда не исполнялись.

Исправлена оценка правил для скриптов и документов

Двигатель правил имел две серьезные проблемы:

  1. Многострочные скрипты обходили защиту: Из-за некорректного экранирования переносов строк при интерполяции текста нарушались границы слов в правилах. Это позволяло опасным командам проскальзывать, если они следовали после безопасных в скрипте.

  2. Ложные срабатывания на документах: В то же время, Markdown-файлы, цитирующие опасные команды, жестко блокировались. Защита работала инвертировано — реальные угрозы пропускались, а документация блокировалась.

Два правила вообще не срабатывали на любых входных данных. Эти проблемы исправлены с корректной обработкой как исполнения скриптов, так и содержимого документов.

Улучшения аудита и безопасности

Реализован ряд исправлений, связанных с безопасностью:

  • Хранение учетных данных: Система аудита сохраняла чувствительные данные, которые должна была обнаруживать. Когда управляемая операция write_file блокировалась, содержимое файла все равно попадало в audit.jsonl. Теперь добавлено два уровня: аудит редактирует чувствительные данные (используя существующие возможности редактирования), а аргументы в форме документов записываются только по размеру.

  • Целостность цепочки аудита: Экран Security иногда ложно сообщал о подделке, когда изменений не было. Это происходило, когда несколько писателей возобновляли хэш-цепочки из разных снимков, создавая дублирующиеся номера последовательностей. Теперь проверка работает корректно.

  • Исправления в режиме наблюдения: Режим observe фактически применял правила, которые обещал только измерять. Теперь BLOCKы правильно возвращают управление до консультации с утверждающим, а отказы корректно учитываются в метриках.

Видимость и надежность ядра

Ядро доверия не обслуживалось по HTTP, поэтому его вердикты не доходили до потребителей API. Теперь оно правильно устанавливается для всех конечных точек при установке CHIMERA_GOVERNANCE в observe или enforce. Другие исправления надежности включают:

  • Корректную обработку таймаутов работников
  • Различение сбоев задач и их истечения
  • Конфигурацию ограничений контейнеров
  • Автоматическое восстановление бэкенда

Известные ограничения

Обновление устраняет ряд проблем, но оставляет некоторые известные пробелы:

  1. Отчеты observe еще не доступны через HTTP-интерфейсы
  2. В API отсутствует путь утверждения в режиме enforce
  3. Четыре HTTP-конечные точки все еще не интегрированы с ядром

Эти моменты документированы в README, а не оставлены скрытыми проблемами.

Обновите через pip install --upgrade chimera-agent или ваш предпочитаемый пакетный менеджер. Подробности см. в [релизных заметках]Chimera Agent v0.47.0.

https://chimeraagent.space