630看书网>试用期码农，你让我拯救公司？ > 第243章 买一送一（第3页）
第243章 买一送一（第3页）
啊——
会议室的人都惊呆了。
莫远游问：“还有提测是什么意思？那几个点是分批提的么？可是，刚才我们测试验证都没问题了啊……”
钟景航也一脸诧异，猜不出王霁的话是什么意思。
王霁笑吟吟道：“不是那几个点，那个问题我昨天就搞定了……”
将电脑屏幕转了过去：
“我看代码的时候，还发现个问题……”
“你们处理大模型高稀疏矩阵效率很低，无效占比计算超过65%。”
“而且，用的加速方案需要固定稀疏模式，无法适配动态稀疏。”
“如果稀疏矩阵的非零元素位置随机，你们cache命中率下降了50%多。”
“多核并发计算时，稀疏任务分配不均，闲的闲死，忙的忙死。”
“我就顺手解决了……”
他对着电脑滔滔不绝。
丝毫没留意到，几个人表情越来越诡异。
听着听着，已经没在看电脑，而是将目光都锁到他脸上。
王霁继续说方法：
“我的优化策略是……”
“首先，增加稀疏模式检测单元，实时识别矩阵中的非零块。”
“用硬件实现自动掩码，根据当前稀疏模式来生成，跳过全零块。”
“然后，在Noc上集成优先级仲裁器，将稀疏计算任务拆分为细粒度子任务，高稀疏度任务优先分配至空闲核。”
“最后，利用你们芯片已有的稀疏、密集模式，增加动态阈值判断。”
“整体下来，transformer推理服务模拟测试延迟能降低50%以上。”
“因为减少了稀疏计算的能耗，边缘侧芯片推理功耗降低40%以上……”
这个问题，是其余红点的报错。
今天花大半天搞定的。
反正，闲着也闲着……
就当买一送一。
讲完后抬起头，看到几张几乎在淌口水的脸。
莫远游擦了擦嘴，转头望向同样找不着下巴的cEo。
钟景航怔了半晌，才反应过来。
咽了口唾沫，对王霁道：
“小王，这个问题是我们下个版本要解决的……”
“我们准备投入20个人，集中半年时间，争取在年底前攻克……”
请勿开启浏览器阅读模式，否则将导致章节内容缺失及无法阅读下一章。
相邻推荐:重生后，皇帝为我痛哭流涕 三国：手握召唤系统 穿越古代去拍照 东北往事盲流 帝无幽 开局合欢系统，不交女友就会死 羽仙情落都市间 影视游戏，带着外挂去冒险 星穹铁道：黑塔夫君是存护令使 崩铁：骗个令使当老婆 妻子不愿意给我生孩子却给情人生 柯学之科学的生存方式 路人甲炮灰有的是力气和手段 四合院：开局成了12岁傻柱 无敌夫妻闯世界 大秦2025：吾的修罗诡道 冰封末世：我有购物系统 国运：扮演镜流，立誓斩星 四合院：什么档次？跟我比道德！ 青萝顾
