논문 정보
- 날짜:
2026-03-25 - 카테고리: -
- 우선순위 점수: 0.633
핵심 요약
에이전트의 개별 행동은 안전하지만 전체 궤적에서 발생하는 분산 공격을 탐지하기 위해 Session Risk Memory(SRM)를 제안합니다. SRM은 세션의 행동 프로필을 의미론적 중심점으로 유지하고 지수 이동 평균을 통해 누적 위험 신호를 계산하는 경량 결정론적 모듈입니다. 실험 결과, 기존 상태 비저장 게이트 대비 0%의 오탐률과 1.0의 F1 스코어를 달성하며 세션 수준의 안전성을 강화했습니다.학습자 관점 포인트
- 우리 팀 영향: 에이전트의 다단계 권한 상승이나 데이터 유출 시도를 탐지하기 위한 저지연 세션 보안 레이어로 활용 가능합니다.
- 권장 액션: 실험
- 액션 근거: 추가 학습 없이 기존 벡터 표현을 활용해 오탐을 제거하고 보안성을 높인다는 점에서 실무 적용 가치가 높습니다.
원문 링크
- arXiv: https://arxiv.org/abs/2603.22350
- Hugging Face Papers: https://huggingface.co/papers/2603.22350