표 4: Phi-3.5-MoE 다국어 MMLU 벤치마크 Phi-3.5-mini Phi-3.5-mini모델은 다국어 합성 데이터와 고품질 필터링 데이터를 사용해 추가 사전 학습을 거쳤습니다. 이후 감독 미...
표 4: Phi-3.5-MoE 다국어 MMLU 벤치마크 Phi-3.5-mini Phi-3.5-mini모델은 다국어 합성 데이터와 고품질 필터링 데이터를 사용해 추가 사전 학습을 거쳤습니다. 이후 감독 미세 조정, PPO, 직접 ...