논문 정보
- 날짜:
2026-04-04 - 카테고리: -
- 우선순위 점수: 1.2
핵심 요약
Brainstacks는 도메인별 전문성을 동결된 어댑터 스택으로 패키징하여 지속적 학습을 가능하게 하는 모듈형 아키텍처입니다. MoE-LoRA와 잔차 부스팅, 널 공간 투영 기술을 결합하여 이전 지식의 망각 없이 새로운 도메인 능력을 추가합니다. 실험 결과, 도메인 스택이 단순 지식이 아닌 지시 이행이나 논리적 추론과 같은 전이 가능한 인지 프리미티브를 학습함을 확인했습니다.학습자 관점 포인트
- 우리 팀 영향: 지속적인 도메인 확장 시 발생하는 카타스트로픽 망각 문제를 해결하고 효율적인 모델 업데이트 전략을 수립하는 데 기여할 수 있습니다.
- 권장 액션: 실험
- 액션 근거: MoE-LoRA 기반의 스택 구조와 메타 라우팅을 통한 도메인 간 지식 전이 효율성을 검증할 가치가 높습니다.
원문 링크
- arXiv: https://arxiv.org/abs/2604.01152
- Hugging Face Papers: https://huggingface.co/papers/2604.01152