e公司訊,阿里云與知名半導(dǎo)體公司MediaTek聯(lián)合宣布,通義千問18億、40億參數(shù)大模型已成功部署進(jìn)天璣9300移動平臺,可離線流暢運行即時且精準(zhǔn)的多輪AI對話應(yīng)用,連續(xù)推理功耗增量不到3W,實現(xiàn)手機(jī)AI體驗的大幅提升。這是通義大模型首次完成芯片級的軟硬適配,僅依靠終端算力便能擁有極佳的推理性能及功耗表現(xiàn),標(biāo)志著Model-on-Chip(片上大模型)的探索正式從驗證走向商業(yè)化落地新階段。