논문 정보
- 날짜:
2026-04-03 - 카테고리: -
- 우선순위 점수: 0.067
핵심 요약
VLM 학습 과정에서 발생하는 언어 능력 저하를 해결하기 위해, 추가 모듈 없이 기존 언어 모델을 교사 모델로 활용하는 LinguDistill 기법을 제안합니다. KV-cache 공유를 통해 교사 모델이 학생 모델의 멀티모달 표현을 참조하게 하며, 언어 집약적 데이터에 대해 선택적 증류를 수행합니다. 이를 통해 시각적 성능을 유지하면서도 손실된 언어 및 지식 벤치마크 성능을 약 10% 회복했습니다.학습자 관점 포인트
- 우리 팀 영향: 추가 파라미터 없이 기존 모델의 언어 능력을 복구할 수 있어, 경량화된 고성능 VLM 구축 시 효율적인 튜닝 전략으로 활용 가능합니다.
- 권장 액션: 실험
- 액션 근거: 아키텍처 변경 없이 증류 기법만으로 언어 모델 본연의 성능을 보존할 수 있다는 점에서 실용성이 높기 때문입니다.
원문 링크
- arXiv: https://arxiv.org/abs/2604.00829
- Hugging Face Papers: https://huggingface.co/papers/2604.00829