手机浏览器扫描二维码访问
第113章 意外的邀请（第1页）
相比效果显著，非常出色的老虎算法，移动端优化排序算法的效果要稍差一些。
因而孟繁岐并没有急着推动上线测试，而是等待结合AI语言解释模型的那一个更新准备一起推动。
目前针对语言问题所采用的通常是循环神经网络（RNN）和长短期记忆办法（LSTM），这两个工作都是上个世纪末的老办法了。
这两种方法简明好用，因而一直兴盛到2017年左右。
直到Transformer，也就是ChatGPT的T方法出现。
通常来说，大家都认为Transformer方法之所以能够迅速取代RNN和LSTM，主要是因为它更方便并行进行。
在多个设备上容易做到并行，这件事最核心的意义便是让规模庞大的版本成为可能，这也为后来ChatGPT这样的究极巨无霸模型奠定了基础。
“其实老版的RNN也有办法可以把并行做得很好，领域内对这件事有很大的误解。”孟繁岐皱着眉头思索道。
原本时间线，Transformer出来之后，所有人都放下了手头老方法的研究，拥抱了T方法。
可18年实际上有人专门做了RNN的高度并行，只可惜已经太迟了。
如果这个发现可以早一年的时间，可能RNN会长期作为T办法的竞争对手，我们也有可能看到ChatRNN的出现。
“早期的T方法需要很多数据，各种参数比较难调整，需要的计算能力也很庞大。”孟繁岐即便根据后来成熟的许多方法做了一个改进的版本，T方法在早期仍旧比较麻烦。
“好在谷歌的数据和算力都不缺，而我也比较熟悉各种经典的参数设置。”孟繁岐先写了一个雏形版本的T方法，进行了一下测试。
“不过，受限于现在显卡的显存，模型没有办法做得很大，除非我专门再去开发DeepSpeed这样的高级并行方式。”
在多张卡上训练模型，可能是为了追求速度，也可能是因为一张卡上放不下了。
其中，数据并行是最简单的，也就是不同的卡都在做同样的事情，每张卡上都会存放一个模型。
只不过输入的数据不一样，不同的卡做完运算之后，再一起整合更新。
就像是所有人都拿了同样的刀切不同的菜，最后把切好的食材堆在一起。
可有的时候，一张卡上根本就放不下模型，这样的情况就比较麻烦了。因为一个人根本拿不动这把刀了，需要多人协作。
可以把每一层拆分到不同的卡上，也可以把不同层分配到不同的卡上，如此一来，其实是用多卡实现了类似单卡训练的效果。
显然，前者会比后者容易非常多，前者只需要在不同卡上复制这些模型，分别读取数据做运算就好。
而后者则需要根据不同的情况和设置拆分合并，一个不小心就会搞错。
看了下谷歌大脑的服务器，里面有好几批2013款的GTX泰坦，这东西着实价值不菲。
考虑到当时的其他产品，6G的显存还是鹤立鸡群的。
比起孟繁岐自己重金购置的4G旗舰款，多出的2G显存，足够做很多其他的事情了。
用速度换显存，孟繁岐又做了许多参数和信息在Cpu和Gpu上反复转移的操作。
因为在正式入职之前，谷歌大脑分配给他的显卡就已经有16张泰坦，这部分卡拨给孟繁岐独享，随时都可以使用。
除此之外，还有32张在不同节点上的Gpu可以申请占用。
异界大乱斗之乱的很 年代文女配重生后踹了男主 一诺千金断绝尘 善男信女 我的御兽养成计划 我在西游交易万物 什么？我体内有一座剑山 银河记事 丹道龙皇 寡人刘玄德 改局之谋 神环啸 陆总请滚开，别打扰我种地 霸总战神之当代侠侣 炮灰表小姐苟命日常 她似春光明媚 激荡一九九五 影视世界里的假道士 西游之开局加入聊天群 携猫主子勇闯星域
战狱：我国主的身份让世界颤抖
关于战狱我国主的身份让世界颤抖他生于京城聂氏豪门，但却被视为孽种，为了生存，他含恨流落至硝烟战火的南荒！十年后，他战功赫赫，成为万军统帅，权势滔天，他带着恩仇热血而归！复仇的路上，没有一个敌人是无辜的！强龙回归，谁与争锋！爷爷，你傲骨满满，不可一世，但我早晚让你低下那高贵的头颅，对我母亲下跪道歉！...
小可怜无家可归，霍总抱回家宠
关于小可怜无家可归，霍总抱回家宠江城第一豪门少爷霍倾州身高权重，手腕常年戴着一串佛珠，做事雷厉风行，唯独感情上空白一片，被外界传闻不近女色，性取向有问题。霍家长辈为此急得团团转，甚至去庙里为他疯狂求姻缘。这一求，竟真的求来了霍家的少夫人！这位霍少夫人从小无人疼爱，却被霍家宠上了天。外人纷纷揣测两人只不过是奉子成婚，等霍家继承人生下来后，迟早要将她一脚踢飞，她就是一个工具人。周柠心生委屈，表示冤枉，分明是霍倾州死皮赖脸地缠着她要去领证结婚。就在大家等着看笑话时，霍倾州当着大家的面，将腕上的佛珠拿下来，放在周柠手上给她把玩，轻声哄着她。宝贝乖，这样心里有没有好受一些？众人惊呆，常年高深莫测的禁欲佛子竟然为了一个女人跌下神坛！佛珠摘下来的那一刻，豪门佛子也有了软肋。...
一吻定情：冷少的傲娇妻
关于一吻定情冷少的傲娇妻柳家大小姐柳倾颜，商业奇才，却因一次意外与李家二少爷李逸尘结下梁子。李逸尘，看似逗比，实则腹黑，对柳倾颜展开了一系列的报复。然而，在相处过程中，两人逐渐发现彼此的真心，最终携手战胜困难，收获幸福。...
穿越贫困县女县令
关于穿越贫困县女县令（女强，基建，爽文，无系统，稳定更新）楚辞身为21世纪理科博士，一朝穿越到龙腾王朝。刚来就遭受楚家大变，被右相陷害，一朝从京城贵女变成接替父辈官职的小小县令。松阳县。县丞安比槐见过大人。松阳县百姓终于有人管我们了！楚辞握着拳头，总有一日她会回京报仇。在松阳县先挖水渠，造水车，制肥料。接着因地制宜，在河里人工养殖河蚌珍珠。珍珠批量出世，松阳县从无人问津在一起，一跃成为龙腾王朝炙手可热的地方。房价一度可以和京城媲美。你想把我埋没，却不知我是颗种子。（一切剧情按照人物性格来走，作者只不过把他们的故事写出来而已，至于有没有CP，要看后期楚辞自己的意愿）...
路人，但是全员白月光
本文又名金妙因为创业失败，穿越到了看过的一本团宠文里，成为了男主家…分家的二姐？一个纯纯路人甲的角色。分家异常混乱，亲妈早逝，亲爹玩消失，家里大大小小七个弟弟妹妹，唯一的亲哥还双腿残疾。金妙OK，这个家只能靠我了。本想一路当路人逆袭创业重操旧业，远离剧情，却没想一个接一个多出了十五个未婚夫，送钱又送人地阻止她创业...
平凡女孩霸总爱
关于平凡女孩霸总爱小型广告公司的设计助理，梦想成为优秀设计师的李悠然遇上公司新上任的创意总监，神秘富豪在青梅竹马间应该如何选择呢？...