논문 정보
- 날짜:
2026-03-10 - 카테고리: -
- 우선순위 점수: 1.833
핵심 요약
VLM 기반 GUI 에이전트의 응답 지연 시간을 인위적으로 늘리는 새로운 백도어 공격인 SlowBA를 제안합니다. 특정 트리거가 발생하면 모델이 불필요하게 긴 추론 체인을 생성하도록 강화 학습 기반의 보상 주입 전략을 사용합니다. 실험 결과, 작업 정확도는 유지하면서도 응답 길이를 대폭 늘려 시스템 효율성을 저하시키는 것으로 나타났습니다.학습자 관점 포인트
- 우리 팀 영향: GUI 에이전트의 보안 검토 시 정확도뿐만 아니라 추론 효율성을 저해하는 백도어 공격에 대한 방어 체계 마련이 필요합니다.
- 권장 액션: 실험
- 액션 근거: 강화 학습을 통한 추론 길이 조작 공격이 실제 에이전트 환경에서 어느 정도의 가용성 문제를 일으키는지 검증이 필요합니다.
원문 링크
- arXiv: https://arxiv.org/abs/2603.08316
- Hugging Face Papers: https://huggingface.co/papers/2603.08316