e公司訊,據(jù)阿里通義千問(wèn)消息,今天,通義千問(wèn)團(tuán)隊(duì)開源首個(gè)MoE模型,名為Qwen1.5-MoE-A2.7B。對(duì)比當(dāng)前最好的7B參數(shù)模型,Qwen1.5-MoE-A2.7B取得了與之相當(dāng)?shù)男阅?,且顯著降低了訓(xùn)練成本和推理時(shí)間。