手机浏览器扫描二维码访问
第137章方案顺利通过验证
“老婆,你先带着女儿玩一会儿,我去书房处理点儿工作,就一会儿!”
思路涌来,郝成回到家不工作的承诺又要食言了。
“十点!”
宁荟能怎么样呢,还不是得由着他。
“用不了,最多一个小时!”
郝成伸出一根手指指着灯:“我保证!”
“德性!”
宁荟笑骂了一句,心里也是感叹:忙点就忙点吧,至少比起去年,这看起来开朗了许多。
……
今天确实不费什么脑筋,因为相关的知识早就在从前整理过了,只是当初没有重视。
来到书房,稍微翻一下之前记录下来的东西,郝成的思如泉涌,一下子就全都冒了出来。
如果说模型的训练提升是在做加法,让模型变得更大更强,那裁切、量化、蒸馏就是在做减法。
很多人可能会有疑问,做减法,那不是让模型变得更弱了吗?
理论确实是这样,但有时候,弱不弱的其实不是特别重要,只要使对了劲儿,一样能造的嗷嗷叫,发挥很大的作用。
比如,有些神经元节点的权重非常小,对模型加载信息的影响微乎其微,切掉它们,精度不会降太多,但却能大大的减少资源消耗。
还有,像小沙这样全量全知全能的模型,其部署和每一次的相应运算推理,都需要消耗较大的算力资源。
但事实上,每一次都是确有必要的吗?
显然并不是!
就拿小沙现在应用最广的软件开发能力来说,它就只需要精准需求的理解以及代码编写能力就够了,至于慢慢在增强的情感映射、主观判断等能力映射这些,那就完全没有必要!
不仅消耗了更多的算力,还拖慢了相应速度。
而且即便是需要的部分,也可以分层去处置:
还是拿软件开发能力来说,最粗略的,那就可以分为两部分:一部分是需求理解,另一部分是根据需求去做开发。
而这第二部分,那就只需要一个“软件开发”
的行业模型就够了。
所以,先在输入端就将用户需求分解,然后将小沙按需裁切为软件开发、法律服务、安全服务等小模型,根据分解的需求去调用其中一个,或者几个。
就比如之前被视为经典案例的小沙第一次庭审,那次的应对也不过是需要三个基础能力:语义理解、法律服务、软件开发能力。
只有极少数的情况,才需要去动用小沙的全量模型。
即便需要全量模型,全程调用全量模型,和只在有需要的步骤去调用全量模型,消耗的资源也是大相径庭的,但结果可能是一模一样。
……
“训练提升难住我了,裁切蒸馏还不是手拿把掐!”
深夜课堂学了这么久,郝成还是有几把刷子的,微意识体的模型训练力有未逮,但压缩郝成还是有办法的。
更何况,郝成还有小沙这个绝佳的辅助工具。
和离之后 两小无猜海棠文无删减 蓬莱客原创新书折腰 折腰魏劭小乔免费阅读无错版 和离之后by陈令安袁固翠微居完整版 顾声笙陈最笔趣阁免费阅读 太子妃位被夺我转身嫁太子他爹无防盗章节 勤劳的小野猫小说主角言淼宋遇宁 和离之后海棠文无删减 折腰无防盗章节 魏劭小乔折腰笔趣阁未删减版 陆凌瑶太子妃位被夺我转身嫁太子他爹笔趣阁未删减版 陈令安袁固笔趣阁免费阅读 十夜灯小说主角陈令安袁固 辰小序原创新书裁员后我成了科技教父 两小无猜 绝尘烟客原创新书太子妃位被夺我转身嫁太子他爹 主角叫魏劭小乔的小说 主角叫陆凌瑶的小说 太子妃位被夺我转身嫁太子他爹陆凌瑶免费阅读无错版
许晟穿越到了人人都能成为圣人,掌握法则,凝聚道果的玄幻仙侠世界。每个人都拥有自己的小世界,以及里面生活着的部落子民!留下传承建立教派开辟仙朝!记载您投放了灵气,部落中武者出现几率提高3oo记载您的部落子民进阶为荒级人类记载您的子民中出现度过天劫的大乘期修士,获得特殊建筑洞天福地记载您灭杀了先天神魔,获得天赋荒古圣体苍天霸体记载您的宗派炼神锻造出了诛仙剑!记载您赢得了与晶壁系的战争,俘虏了光辉之主蓦然回,当许晟征服无尽世界位面宇宙后,现自己早已夺得造化,成为道祖!...
闻雀穿到了修仙界,拥有了一个神仙师门师尊仙风道骨,人人敬仰师兄天生剑骨,以身铸剑师姐风华绝代,以乐证道师弟冰清玉洁,医人无数师妹名门千金,皇族后裔而她是那个上不挨天下不沾地废物小老三,在家修炼都能被雷劈。当然,她被雷劈醒之后才发现,自家的神仙师门居然个个是冤种,人人都不得善终。这冤种师门,迟早要完。魔蝎小说...
...
关于换芯后,厉总他先沦陷了[男主金丝眼镜斯文败类腹黑疯批貌美二哈女主独宠双洁先婚后爱]当鹿眠知道举办婚礼时,厉爵修会为了去见医院里那个要死不活的白月光一面而选择逃婚,她第一选择便是先他一步逃婚。电梯坠落,两人陷入昏迷,醒来后发现灵魂互换。从此开启了相爱相杀的人生。鹿眠用着厉爵修的躯壳帮他宠白月光。白月光却天天来陷害厉爵修。某天,某位疯批总裁实在受不了了,红着眼眶恶狠狠的咬着她的肩膀说道鹿眠,你能不能不要顶着我的脸去对那个白莲花好了,我才是你男人,嗯?!鹿眠尴尬的抠了抠脑袋纠正道是女人才对吧。当两人灵魂归位时,厉爵修青筋暴起的手掌紧紧的握住她的雪白如玉的脚踝,眼里是藏不住的欲望。眠眠乖,你欠我的新婚夜,该还了。闺蜜看见,被欺负的很惨的鹿眠,扶着腰天天骂他狗男人,便问她为什么不直接动手?鹿眠回答我不敢打他。为什么?难道是怕他还手?鹿眠摇摇头因为我怕他舔我手!(男女换魂后变得很娇气,很傲娇!女主很宠男主,他闯祸,她便跟在她他身后收拾烂摊子。注前期男主的性格不讨喜,甚至可以说讨厌,但是有原因的,男主自我攻略。)...
关于惊!流放前我搬空了皇帝私库一朝穿越,楚辞成了真假千金里的冤种真千金。灌药,替嫁,流放一条龙?不怕,不怕。空间在手,金银我有。亲人不做人,财产抵补偿。没毛病!皇帝眼太瞎,私库做抵押。哭去吧!所有人都以为老太傅年老体弱,流放之路又去无回。非也,非也。灵泉灵药,轮番补,太傅一家状如虎。岭南边城流寇海盗猖,精甲利器御敌强。瘴气横粮食少百姓苦,高产粮种美名扬。于是京城热闹了次日早朝,户部尚书老皇叔,老宗令通通站了出来,向皇上进言。皇上,太傅一家高风亮节,忠心耿耿,绝不可能叛国。请皇上重新调查大皇子一案,还太傅一家清白。准!表面沉稳自若的皇帝,心里却暗暗叫苦,金口玉言?他大概是史上被打脸最惨的皇帝了!...