Governance & Oversight
Периодично: седмично, месечно, тримесечноПериодичният контрол, анализът и подобряването на системата.
Разходи (FinOps)
FinOps — управление и оптимизация на разходите за AI инфраструктура.
- Проследяване на API и token разходи по агент и отдел (token разходи — разходите за обработка на заявки към AI моделите)
- Аларми при аномален скок в употребата
- Месечен отчет с препоръки за оптимизация
- Препоръки за кеширане
- Избор на подходящ модел за по-прости задачи
Логове и данни
- Седмичен или месечен преглед на одитните логове
- Проверка какви данни са преминали през агентите
- Проверка за лични и финансови данни без маскиране
- Проверка дали агентът е спазил зададената последователност на стъпките
Правила и логика
- Актуализация на промпти (инструкциите към агента)
- Актуализация на правила
- Актуализация на state machine логиката — зададената последователност от стъпки и проверки
Проверки и документация
- Тримесечен health check
- Тестове с гранични и нетипични случаи
- Compliance readiness — подготовка за въпроси от клиенти, партньори и одитори
- Документация за клиент, партньор или одит
