논문 정보
- 날짜:
2026-03-05 - 카테고리: -
- 우선순위 점수: 1.233
핵심 요약
MUSE는 텍스트를 넘어 오디오, 이미지, 비디오 등 멀티모달 입력에 대한 LLM의 안전성을 평가하는 오픈소스 플랫폼입니다. 세 가지 다회차 공격 알고리즘과 5단계 안전 분류 체계를 갖춘 LLM 판독기를 통합하여 교차 모달리티 페이로드 생성을 지원합니다. 실험 결과, 단일 회차에서 방어율이 높은 모델들도 다회차 공격 및 모달리티 전환 공격(ITMS) 시 최대 90-100%의 공격 성공률을 보였습니다.학습자 관점 포인트
- 우리 팀 영향: 멀티모달 모델 도입 시 텍스트 기반 방어만으로는 부족하며, 모달리티 전환을 포함한 다회차 레드티밍 체계 구축이 필수적임을 시사합니다.
- 권장 액션: 실험
- 액션 근거: 제시된 ITMS 기법과 5단계 안전 taxonomy를 활용하여 현재 개발 중인 멀티모달 서비스의 취약점을 정밀 진단할 가치가 높습니다.
원문 링크
- arXiv: https://arxiv.org/abs/2603.02482
- Hugging Face Papers: https://huggingface.co/papers/2603.02482