手机浏览器扫描二维码访问
“算力是AI世界发展的基础,而算力的瓶颈归根到底还是电力....”
“根据ChatGPT原国外团队,提供的数据来说,他们的AI大模型训练,电力需求将以每年约10%的速度增长,能耗将为常规云工作的三倍。”
“而这仅仅是训练AI模型的前期电力,仅占模型实际使用时所消耗电力的40%。而我们的1%,在这一方面,即便服务器使用的相对来说比运算量的ChatGPT要少30%,这一年来的运转下来,我们的用电量依旧是相当惊人的。”
“是的,AI服务器的功率较普通服务器高6-8倍,这对于电源的需求也将同步提升,通用型服务器原来只需要2颗800W服务器电源,而AI服务器的需求直接提升为4颗1800W高功率电源,服务器能耗成本直接3100元直接飙升到元,大涨3倍。”
“你还没有算应对为运行日益能源密集型工作负载的计算机服务器组群供电和散热而产生的额外成本。”
“以目前的形式来看,大厦的回收电量勉强能够支撑部分支出,但是到了冬日....”
“据全球最大商业房地产服务公司统计,数据中心客户囊括了小型企业到大型云服务供应商,目前消耗电力的速度快于数据中心运营商扩展容量的速度。由于人工智能用例的增加,供应限制日益严重,导致数据中心收取的价格更是离谱,显然这个方案是不可行的。”
.......
在ly大厦的一间会议室中,大家为1%“吃电”的大模型服务器,而感到头疼。
何依霖看着会计送过来的账单,竖起了眉头。“技术开发那块现在怎么说了?”
“可使用高度优化、甚至是更简单、更专业的小型神经网络模型来降低数据中心成本,方法是减少云端的模型规模,将海量参数网络用于快速训练较小的模型,并将工作负载完全移出云端,从而将生成式AI应用程序更加经济高效地分发给智能手机、PC、车辆和移动XR产品等分布式平台上运行。”技术部总监说道。
何依霖在桌子上敲动着手指,对这一块拿不定主意,他技术方面得仰仗李奥才行啊。
“随着消费者使用量的增加,成本将不可避免地攀升。将计算转移到边缘,并将其分配给PC、智能手机和XR设备等客户端是降低资本和运营成本的关键途径。”技术部总监又补充说明道。
“通俗的来说....就是现在人工智能的潜力是无限的,但物理和成本最终可能是界限。”何依霖概括的说道。
“是的。”技术部总监点头说道。
按照当前的技术路线和发展模式,1%必将引发两个问题:一方面,数据中心的规模将会越来越庞大,其功耗也随之水涨船高,且运行越来越缓慢。
另一方面,AI芯片朝高算力、高集成方向演进,依靠制程工艺来支撑峰值算力的增长,制程越来越先进,其功耗和水耗也越来越大。
这时,李奥打来了电话。
何依霖的烦恼顿时烟消云散,今天是李奥出院的日子,今天早上还发微信过来说过几天来新家过生日派对呢。
何依霖赶忙接起,刚接通,就听到李奥近乎咆哮的声音。
“他妈的,我要你从现在开始,以任何手段,针对深控这个狗娘养的,我要穆家从此再无翻身之日,马勒戈壁的。艹!!”
梦归夏朝:拥有貔貅血脉不要太爽 靠美甲系统养病弱王爷 苟在将军府 桃桃爱你 正经养崽四年后,豪门亲爹找上门 沙洲末世:萝莉也要勇敢驱魔! 被关女子监狱十八年,出狱即无敌 混迹在宝可梦中世纪的女巫仙布 为了100亿,我扮演十年恶女 惊爆!地下情人是京圈太子爷 穿越后我拍飞攻略系统 中奖五百万后我随心所欲的人生! 你是来上班的吗? 从突击开始的特种兵 在无限世界努力保持正常人状态 遥远的回航 港夜雨眠 (历史同人)皇的意志觉醒了 我和偏执将军假戏真做了 神豪,天降万亿,独领风骚!
前一秒还在icu看着头顶着天花板的尹琪,后一秒钟发现自己变成了襁褓之中的孩子好消息,自己跳过了死亡坏消息,直接人生重开此时,尹琪脑海中第一反应是,那自己岂不是没有机会喝到孟婆汤了,有点亏,还没尝过孟婆汤的味道呢当尹琪知道自己穿越的朝代后,忍不住倒吸了一口凉气魔蝎小说...
关于重生70开局要把我拴起来!上一世,广浩抛弃艾晓芳,结果回城之后却被恶毒未婚妻算计。不止父母惨死,甚至自己也落了个孤独终老的结局。上天重新给了他一次机会,带着整整七十年的记忆重生。广浩发现自己上一世学会的技能竟然因为重生被进化到了登峰造极境!带着登峰造极的捕猎技能,广浩将千亩鬼头山当成了自己的猎场。鬼头山,这可是后世全国最大的生态保护基地。有上千种珍稀动物,上万种珍稀植物,以及数不清的珍贵药材。然而现在,它们统统都是广浩的猎物!...
关于封地1秒涨1兵,女帝跪求别造反大乾皇朝,穿越成为虎威大将军之子的秦泽,遭女帝卸磨杀驴,剥夺兵权,封贫瘠凶险之地北凉为其封地。入北凉前夕,秦泽觉醒至尊领主系统,1秒钟自动获取1积分,积分可兑换人口,粮草,军备,兵种,大将。利用积分,秦泽逐一拥有历史上的各个大将,古之恶来典韦,冠军侯霍去病,杀神白起,兵仙韩信而兵种模版则直接让秦泽拥有最强军队!秦锐士玄甲骑背嵬军虎豹骑。当秦泽在北凉拥兵百万,所向披靡之时,朝中大臣慌了,女帝头皮麻了。女帝传谕!传谕!赏钱粮!好生安抚镇北王!千万千万别让他造反了!秦泽日落西山你不陪,东山再起你是谁?待我入京之日,便是你落下帝位之时!...
在灵幻与现实交织的迷雾中,少年林羽踏上未知旅途。学院的钟声敲响成长与挑战的乐章,比试的硝烟修炼的瓶颈感情的涟漪交织成一幅绚丽画卷。神秘势力如暗夜幽灵,悄然渗透,世界在明暗之间摇摆。从中级学院迈向高级学院,是新生的希望还是黑暗的序章?林羽的传奇,在这似真似幻的异界徐徐展开,命运的齿轮已开始转动,一场惊心动魄的冒险...
顶级厨师徐婉宁意外穿书,苦逼拿到恶毒女配剧本!还好她的生鲜超市跟着一起穿来了。从此徐婉宁疯狂做美食,勤勤恳恳发家致富,狂刷两萌娃和冰山男主的好感度,撕破原书女主的白莲花嘴脸,挽回她恶毒女配的凄惨命运。冰山男主(好感度250)徐婉宁,你又在作什么妖!暖男男主(好感度520)老婆,抱抱某恶毒女配抱就抱,老实点!孩子在旁边看着呢!俩萌娃ˇˇ你们继续...
元执第一次遇见宋积云的时候,宋积云在和她的乳兄谋夺家业元执第二次遇见宋积云的时候,宋积云在和她的乳兄栽赃陷害别人元执第三次遇见宋积云的时候,宋积云那个乳兄终于不在她身边了,可她却在朝他的好兄弟抛媚眼士可忍,他不能忍。元执决定以身饲虎,收了宋积云这妖女!...