手机浏览器扫描二维码访问
很快就发现了问题的所在。自我演化程序基本没有变化,但是甲骨文识读的程序有一个地方发生了了很大的变化。
最初班行远设计的识读程序包含了一个具有100万个参数的模型,这个模型也是识读功能的核心所在。在最新的版本中这个模型的规模已经膨胀到让班行远咋舌的10亿个参数。
班行远把所有历史版本的代码调出来,发现这个识读程序的演化过程就是模型规模越来越大的过程。虽然也有不少规模变小的版本迭代,但是很快就又向着规模越来越大的方向发展。
稍一思考就明白了是怎么回事。模型的规模大的话,包含的资料就多,就更能生成准确率高的报告。演化程序其实不知道规模大好还是规模小好。在最开始的阶段把规模调大后程序根据小组的反馈判断出这样效率更高,于是就开始向模型规模越来越大的方向发展。
大到一定程度后程序判断单次报告的生成时间有较大增加,默认效率降低就自主降低模型的规模。模型变小后生成速度快了,但是准确率有了更大的下降,演化程序判断还是规模大的模型效率更高。于是又一次朝向大规模模型演化。就这样周而复始,在演化的过程中程序确认大模型更有效,于是模型的规模以指数的形式变大。
模型变大后对算力需求以更快的速度变大,只不过在最初的阶段并不明显。当模型的规模超过一定阈值的时候,报告的准确性也随着提高,哪怕是生成速度已经很慢了,演化程序仍然没有调小规模,因为综合效率仍然更高。
10亿参数规模的模型,班行远有些头疼。想了一下把两个人工智能项目组的人都叫了过来,他要把甲骨文人工识别的程序移植到蛋白质机构预测的计算中心上。
两个项目都用到了研究院设计的加速卡,只不过甲骨文这边的规模小得多,算力和蛋白质那边比的话根本不值一提。查了一下后台,没有三方单位使用算力,班行远立刻让项目组成员暂停了所有的计算任务,让他们把甲骨文识读程序切换到计算中心。
程序在计算中心运行后,班行远并没有让程序开始计算,而是把西方各种文字的字典和语言学资料喂给程序,程序很快就消化完毕。班行远暗赞,算力强大就是不一样。
随后在两个项目组不解的眼神中班行远问出了问题:“请告诉我英文单词you的起源与演变。”
这些计算机专家看着大屏幕上滚动出来的文字一个个张大的嘴巴。
“嗯,用户之前问了中文“公”字的起源和演变,现在又转向英文单词“you”的起源和演变。看来他对语言的历史发展很感兴趣,可能在学习语言学或者对词源学有好奇心。我需要先确认用户的需求……”
“英语单词"you"的起源和演变过程展现了日耳曼语言中第二人称代词的复杂发展轨迹,以及社会文化对语言形态的深刻影响。以下是其历史演变的分阶段解析:
一、古英语时期(5-11世纪)
……”
等结果输出完成后,会议室一片安静。过了一会儿一位专家站了起来激动地说:“院长,这是……”
班行远点了点头说:“虽然我不太相信,但是看来正是你想的样子。”
随后就开始了热烈的讨论,班行远写的核心算法其实是有这个功能的,但是没想到模型规模变大后会出现这样的变化。很显然已经不能单纯用在甲骨文识别上了,用这些专家的话讲那完全是在犯罪。
要增大用途的话,模型规模还要增加。到了这个规模,模型规模和算力需求之间已经不成比例。模型增加一倍,对算力的需求可能需要增加十倍百倍。现在需要确定的是计算中心支持多大的用户规模。
然后开始多用户测试,两个人同时提问、三个人、四个人……当同时提问人数超过10个时就能够感觉到明显的速度变化。
这可不行!这个程序太有用了,这些专家已经想到了无数的用法,才够10个人同时用够干什么。同时叹了一口,算力!
班行远停止了程序的运行,恢复蛋白质方面的计算。
班行远说:“都说说吧,这个程序本来就是设计的用来识读甲骨文的,能理解语义这是前提条件。但是模型规模达到这种程度后发生的变化确实出乎了我的预料。程序演化算法核心是基于生物进化原理,通过对输出结果的反馈制造一种类似于自然选择的演化压力。我看了一下演化程序自己发展出了类似神经网络、卷积之类处理方式,这和目前的人工智能发展方向是一致的。但是但是那个大模型还是头一次看到,似乎还没有出现这种人工智能跟大模型结合的报道。”
“虽然我们只是演示了文字方面的问答,但是显然这个人工智能的应用范围要大得多,可以用在各种方面。研究院组件专门的小组吧,对相关理论和应用进行深入研究。等级……等级和光刻机项目是一样的。”
“都有说说下一步怎么干吧。”
一位专家说:“算力,要研究这个肯定需要极为强大的算力。现在使用蛋白质的算力中心仅仅是语言学方面的内容已经捉襟见肘,应用范围扩大的话需要训练模型肯定不够用。需要新建计算中心。”
班行远考虑了一下,摇了摇头:“这个行不通,首先泰熙肯定不会批的,蛋白质项目每个月一百多万的电费就够她整天跟我念叨了,这要是再建一个她得和我拼命。”
“而且使用现有的加速芯片处理这个大模型人工智能的运算完全是浪费。这款加速芯片是为了研究院高精度的科学运算设计的,针对FP64高精度浮点运算进行了专门的优化。大模型人工智能撑死用到FP32的精度,我估计大多数场景用FP16半精度就够了,很多场景甚至FP4、FP8甚至是8位的整数运算就能覆盖了。同样规模的芯片针对FP64高精度浮点运算优化和针对低精度运算优化在算力上可不是简简单单的翻倍。”
喜欢半岛远行请大家收藏:()半岛远行
灵影逆世之都市传奇 港综:从铜锣湾开始雄霸江湖 穿越西游之疯狂蚂蚁 乾游记 穿成极品农妇后继续极品 末世冰封?呵呵!这只是开始 综影视:有亿点甜 七零年代龙傲天路人小姨子 四合院:众里寻她千百度 当众休夫后,摄政王十里红妆高调求娶 何为不为 逍遥九皇子 从三料博士到无道仙主 至尊战神奶爸 系统:抽卡进行中 战灵腥雨录 谁家小娘子这么狂 汉朝之秦末楚汉争霸 断我灵脉抽我骨,被灭宗你后悔啥? 长生从学习开始
(悬疑,风水,灵异,略微惊悚!带你搞笑探秘这个世界的另一面。)这个世界上很多东西是不能用科学来解释的,但是细探之下又和科学紧密不分,而事情真的是这样的吗?接下来就跟随我一起去看看吧!探风水,斗灵体,揭开这个世界不为人知的另一面!我是一名小山村出来的年轻人,小时候我一直和爷爷相依为命,爷爷从小一直叫我学习他那两本书上...
关于搂腰吻!咬她唇!被大佬跪哄溺宠一夜迷乱,沈若凝醒来身边躺着一个陌生男人。结果出席家宴,那男人竟是未婚夫的哥哥。更万万没想到,还是顶级矝贵傅氏掌权人。她逃他追,她插翅难飞。清冷禁欲的男人化身一块牛皮糖。甩不开,踹不掉,还天天搂着她的腰,昼夜贪欢…然而,这场如暴雨般的爱恋在那个秋天无疾而终。三年后,在沈若凝看来,她和傅宴洲之间的所有关系都可以用过去式三个字概括。可她身陷警察局,救她的是他。无家可归时带她回家的是他。大雪天封路,不顾危险来接她的人还是他。在她深陷舆论漩涡,被万人唾弃时,唯一相信的人,仍旧还是他。沈若凝阿宴,你为什么还要喜欢我?男人将她抵在床角,唇瓣贴着她的耳畔对你…我永远情难自控。高岭之花甘心入泥潭,将那满身泥泞的玫瑰捧进手心。...
关于诡异降临灵异系统有点坑我一个入殓师,会点技能很正常吧!开局女鬼缠身!不料却揭开神秘的灵异面纱…系统穿越灵异复苏都市高武癫爽轻诙谐热血无敌成神无女主灵异入侵地府秩序崩塌导致人间诡异入侵神秘的地府掌舵者又为何会离奇的失踪…开启全新的鬼修时代!不圣母!...
关于是他唯一的光书名是他唯一的光又叫独一无二的偏爱在别人眼里,他身边女人不断,但从不和她们做那种事。别人都知道,他曾经有一个白月光,死在他怀里,让他痛苦万分,但他很快调整好情绪,在众人面前他就像平常人一样,好像什么事都没有发生一样,其实每天晚上他都陷入痛苦。就在别人都以为他会放下白月光的时候这天,一个特殊的女人出现在他的世界里,让他彻底为她失了心。曾经他也是杀人不眨眼的人,他的世界里只有黑暗,但她的出现,就像是一道光闯进他的世界里,让他不知所措。他不想让她和他一样陷入这样的困境接下来的日子里,她发现了他的身后,藏着一个天大的秘密。...
诡夜降临,神诡降生!陈垚苏醒之后,现自己成为了十万大山中的一根图腾柱!本以为这一世只用静静地在山里看日升月落,沧海桑田。直到一头山狼拜在身前,一副上古图腾浮现于柱体之上,陈垚忽然现,这个世界变得有意思起来。搬山啸月狼上古十万大山中的妖兽,有搬山之能图腾之力控土月华吐纳所属信众山狼…当一幅幅上古图腾出现在柱体之上,陈垚的庇佑范围开始蔓延。所佑之处,神诡辟易,妖邪避讳。大夏国都。国师预测国运,却不曾想看到无数妖邪从十万大山中逃出,大夏倾覆!一口鲜血喷出,国师以全部寿元为注,窥破天机,留下遗言。十万大山内有灭世妖邪降生,身负万千生灵执念,不除,大夏必亡!本书又名庇佑众生的我,被当做了灭世妖邪我在神诡世界的日子...
九阳神功力拼嫁衣神功,究竟孰强孰弱?燎原百击直面天外飞仙,谁可当世称雄?神州大地,山河之内,主宰一切的,只有武功,也只能是武功。段毅来到陌生而又熟悉的...