第1481章合作夥伴陸續加入
第1481章合作夥伴陸續加入(第2/3頁)
講述一個與自己冇有關係的故事。
“字節這邊，大方向是順利的，但過程裡確實遇到了一些問題。”
他停頓了一下，組織了一下語言：
“字節的團隊對鴻蒙的技術能力其實很認可。
他們派了一個算法團隊跟我們對接，花了三天時間測試鴻蒙的端側推理能力——就是在大模型在手機本地運行的能力。
（本章未完，請點擊下一頁繼續閱讀）第1481章合作夥伴陸續加入(第2/2頁)
測試結果出來之後，字節的人說：‘在鴻蒙上跑推薦模型，延遲比安卓低百分之十五。這種性能提升，值得專門做適配。’”
“但是，”他話鋒一轉：
“測試過程中發現了一個問題。
鴻蒙的端側推理框架和字節的推薦模型之間存在一些兼容性偏差，導致在某些邊緣場景下，推薦結果的準確性比安卓低了大概百分之八。
這個偏差雖然不大，但對字節來說是不能接受的。
他們的核心競爭力就是推薦算法的精準度。”
左夢安皺眉：“這個問題嚴重嗎？”
“說嚴重也嚴重，說不嚴重也不嚴重。”陳默坦誠地說。
“嚴重在於，這個問題如果解決不了，字節就不可能把核心推薦能力遷移到鴻蒙上。
不嚴重在於，這不是底層架構的問題，而是接口層的適配問題。
我們的端側推理框架和字節的模型之間需要做一層適配優化，把這個百分之八的偏差抹掉。”
“那現在解決了嗎？”鄭非問。
“技術層麵已經有方案了。”陳默說。
“我們的工程師和字節的算法團隊一起分析了問題根因，發現是鴻蒙的npu調度策略和字節模型的內存訪問模式不匹配。
我們在開發環境裡跑了一個優化版本，把偏差從百分之八降到了百分之三以內。
但百分之三還是不夠，字節的要求是百分之一以內。”
“所以還需要進一步優化？”徐平問。
“對。”陳默點頭：
“我們這邊已經在做第二版優化方案，預計兩周內能出結果。
但說實話，這種底層的適配優化，光靠遠程溝通效率太低了。
兩邊的工程師隔著屏幕調參數，很多問題說不清楚。
所以我打算下周帶隊去一趟帝都，到字節的總部去，跟他們的算法團隊坐在一起，麵對麵地把這個問題徹底解決。”
鄭非看了他一眼：“你親自去？”
“對。”陳默點點頭，說道：
“字節是鴻蒙生態裡最關鍵的拚圖之一。
抖音、今日頭條、西瓜視頻、番茄小說......這些應用的用戶量加起來超過十個億。
如果字節的推薦能力在鴻蒙上跑不出最佳效果，用戶的感知會很明顯。
這個問題必須徹底解決，不能留尾巴。”
徐
（本章未完，請點擊下一頁繼續閱讀）