第1484章會配合嗎?
第1484章會配合嗎?(第3/3頁)
程師,心裡卻有些發虛。
倒不是對技術冇信心。
端側推理框架和字節推薦模型的適配問題,他在實驗室裡已經跑了幾百輪測試,優化方案改了三版,偏差從百分之八壓到了百分之一點五。
再往下壓,他心裡也有譜。
問題出在npu調度策略和內存訪問模式的匹配上,隻要把算子融合那一層重構一下,理論上能進百分之一以內。
他虛的是另一件事。
字節會配合嗎?
這個問題從接到出差通知那天起,就一直懸在他心裡。
上周五的動員會上,陳默總把這次出征的骨乾叫到一起,簡單說了幾句。
當時範正華坐在會議室後排,看著投影幕上那行“字節跳動·鴻蒙端側推理聯合攻堅”的標題,腦子裡轉的全是過去的經驗。