线上直播间里,反应过来的网友也跟着刷起了屏。
【哈哈哈我想起来了,游所为造的那台山寨机就叫太子!】
【不是,顾董在几千万人的旗舰机发布会上聊《魔幻手机》干嘛?改行干影视解说了?】
【前面铺垫了半天麒麟970和独立NPU,怎么一转弯拐到游所为和太子身上了?这弯拐得我脖子都闪了!】
台下的科技记者们更是面面相觑。
后排的门户网站主编推了推眼镜,盯着台上的顾屿,小声嘀咕:
“这葫芦里到底卖的什么药?好端端的芯片大秀,扯这一出神话剧干什么?”
舞台中央,顾屿听着台下此起彼伏的喊声,笑着点了点头。
手里的遥控笔再按一下。
屏幕上的剧照隐去,画面一分为二。
左边是一座庞大的数据中心机房图标,底下标注着“天问3.0云端千亿参数底座”;右边则是那颗麒麟970芯片的独立NPU模块。
一道蓝色的流光从左边的庞大机房里抽离出来,经过多层漏斗状的网格过滤、裁切、压缩,最后注入到右边的芯片NPU里。
“没错,就叫太子。”
顾屿收起玩笑的腔调,握着麦克风往前迈了一步,话音干脆利落:
“电视剧里,游所为靠强行复制造出了太子。而在现实的计算机实验室里,我们九天实验室的算法团队,加上华为海思的芯片工程师,用了一项叫‘模型知识蒸馏与混合量化剪枝’的技术,干了一件跟游所为一模一样的事!”
顾屿抬手,激光笔的红点稳稳钉在屏幕中央那道蓝色漏斗上:
“云端的天问三号是千亿级参数的大家伙,得靠雅安地底机房几万张加速卡供着才能转起来。”
“想把原封不动的天问三号硬塞进手机,别说现在的手机芯片,就是把主机箱拆了也塞不进去。”
“那怎么办呢?我们换了个路子。我们把云端的天问三号当成博导,通过知识蒸馏技术,砍掉那些占地方的冗余权重,只把最核心的逻辑推理、自然语言理解和指令执行能力榨出来,手把手教给一个小模型!”
“再配合专门为海思NPU定制的算子融合,外加INT4、INT8混合精度量化技术,我们把一个原本得靠超算机房才能跑动的庞然大物,浓缩到了十二亿参数规模!”
大屏幕上跳出三行白底红字的数据。
模型体积:800兆以
本章未完,请点击下一页继续阅读!