논문 정보
- 날짜:
2026-04-13 - 카테고리: -
- 우선순위 점수: 0.267
핵심 요약
분산 환경의 파이프라인 병렬 처리 포스트 트레이닝 과정에서 중간 단계를 제어하는 공격자가 백도어를 주입할 수 있음을 입증했습니다. 데이터 포이즈닝과 달리 모델의 중간 레이어만 조작하여 트리거 단어 포함 시 정렬 성능을 80%에서 6%로 급감시킵니다. 사후 안전 정렬 학습을 추가로 진행하더라도 60%의 사례에서 백도어 공격이 여전히 유효함을 확인했습니다.학습자 관점 포인트
- 우리 팀 영향: 분산 학습 환경에서 중간 노드의 보안이 보장되지 않을 경우 모델의 정렬 상태가 심각하게 훼손될 수 있음을 시사합니다.
- 권장 액션: 실험
- 액션 근거: 파이프라인 병렬 학습 시 중간 단계의 무결성을 검증하고 백도어 주입을 방어할 수 있는 기술적 장치가 필요하기 때문입니다.
원문 링크
- arXiv: https://arxiv.org/abs/2604.02372
- Hugging Face Papers: https://huggingface.co/papers/2604.02372