手机浏览器扫描二维码访问
第109章 OpenAI最近有点儿跳得限制一下（第1页）
第109章OpenAI最近有点儿跳，得限制一下！
郝成请了一顿饭，何钢吃了满肚子的心事。
饭局刚刚一结束，他就立刻回到酒店，联系上了于东。
“老何，我咋发现你每次一去临州，都会变得这么慌慌张张的呢？”
于东甚至调侃上了。
“你先别忙，听我说。”
何钢仔细的将郝成在车上的话简单跟于东复述了一遍，而后总结道：“可不要看这东西是郝成在扯闲篇，是在泛泛而谈大路的概念，是没有透露任何AI训练方法的。
“但实际上，他这个泛泛而谈，跟我们一大群人去聊天，他不一样！”
“我知道，他已经训练出小沙了，他的大路概念那是正确的概念。”
于东长长的呼了口气：“从这泛泛而谈中或许能找到方向。
“但光听这些也没有用啊！”
思索了很久，于东也是无奈道：“你说的所有的东西，我只能总结出三个字‘类似人’，而这种方向，团队早就考虑过了。
“但现在的问题不是方向，是方法，我们没有找到任何的方法。
唯一的好消息是，我们以传统方式训练AI的成本也大大的降低了，效率却大大的提高了。”
于东说的这个倒是实情，不仅仅是华为、抖音、腾讯甚至OpenAI，训练AI的成本都降低了。
究其原因，也很简单，他们让小沙帮他们做数据清洗、标定和反馈。
数据清洗原本是一个非常复杂且繁琐的工作，也是训练AI非常关键的步骤，数据清洗的质量越高，AI训练的质量也就越高。
以往，这个工作都是由人工来实现的，也有用AI来做的，但是效果就会很差，往往会投喂一些垃圾数据，造成模型被污染，进而产生一些低级错误。
而现在有了小沙，这项工作可以更快速的进行，准确率甚至不比人工清洗差。
而更关键的一个问题，以往GPT类的模型，是RLHF，也就是基于人类反馈的强化学习。
怎么做的呢：就是先预训练一个语言模型，然后做微调。
微调怎么调呢：就是你问一个问题，语言模型给你回答，然后人工给这些回答进行排名，然后获得一个有质量排序的数据集，用这个数据集反过来再去微调相关的模型参数，一遍又一遍循环往复，然后答案就会越来越接近人想要的。
而现在，小沙代替了人工的这个步骤。
RLHF模型先前被认为不可能无限提高，其中最重要的一个原因就是，随着参数越来越多，数据量越来越大，人工去获取一个有质量排序的数据集也变得越来越不可能。
于是有人就认为，自我反馈模型，也就是让模型自我去评价去提升的模型才是未来，纵然它有时候显得很弱智。
但是现在，有了小沙，小沙替代【基于人类反馈的强化学习】里边的人类，变成了【基于小沙反馈的强化学习】，这一切就又变得可能了！
不仅解决了自我反馈容易弱智的问题，同时解决了人工反馈效率过低、成本过高的问题。
这就相当于将两个模型的优点直接结合了。
而且，超大规模超超大规模，也不用担心人工的问题了。
所以，各家的模型现在进步都非常大，原因就在于此。
想要变得跟小沙一样厉害，那当然不可能——基于小沙训练的AI想超过小沙那本身就是一个悖论。
但是，只要舍得堆积算力，无限的堆积算力，再加上用小沙代替人类进行反馈的强化学习，理论上最终能极限逼近小沙的水准。
当然，理论只是理论，现实中不存在无限算力，考虑实际情况，用这种方式结合超大算力训练一年，达到小沙的六七成水准应该是可能的。
第109章OpenAI最近有点儿跳，得限制一下！
华为这边默默的评估过，现在几乎所有的AI训练企业都在偷偷的这么干。
“需要跟郝成说一下这个情况吗？”
何钢问了一嘴。
“这他应该知道吧？”
孽海by言淼宋遇宁翠微居完整版 主角叫魏劭小乔的小说 孽海海棠文无删减 裁员后我成了科技教父郝成免费阅读无错版 言淼宋遇宁笔趣阁免费阅读 主角叫陆凌瑶的小说 十夜灯小说主角陈令安袁固 陆凌瑶太子妃位被夺我转身嫁太子他爹笔趣阁未删减版 辰小序原创新书裁员后我成了科技教父 折腰无防盗章节 和离之后by陈令安袁固翠微居完整版 和离之后 太子妃位被夺我转身嫁太子他爹无防盗章节 两小无猜 陈令安袁固笔趣阁免费阅读 绝尘烟客原创新书太子妃位被夺我转身嫁太子他爹 和离之后海棠文无删减 魏劭小乔折腰笔趣阁未删减版 勤劳的小野猫小说主角言淼宋遇宁 太子妃位被夺我转身嫁太子他爹陆凌瑶免费阅读无错版
钟小艾给我，侯亮平急眼
关于钟小艾给我，侯亮平急眼山水庄园，正值钟小艾过来调查，穿越过来的祁同伟激活纵欲系统，只要说出内心真实想法，就能获得积分奖励。恰逢这个时候，侯亮平突然到访！这下解释不清楚了！既然解释不清楚，那么我就表白钟小艾！小艾，我爱你，嫁给我吧，侯亮平不值得！钟小艾你在胡说些什么？钟小艾被吓了一跳，忙不迭躲进柜子里！侯亮平学长，你的柜子里到底藏了什么？有什么见不得光的事情？梁璐同伟，你赶紧把柜子打开！夫妻一场，你别做的难看！祁同伟学弟千外别打开啊，你会后悔的！...
撩走神颜巨佬后
本书简介闺蜜的小姨好爱我沈小姜陈谊撩走神颜巨佬后全文免费阅读，如果您喜欢撩走神颜巨佬后开小猜最新章节，请分享给您的好友一起来免费阅读。魔蝎小说...
永夜君王
千夜自困苦中崛起，在背叛中坠落。自此一个人，一把枪，行在永夜与黎明之间，却走出一段传奇。若永夜注定是他的命运，那他也要成为主宰的王。...
重生：太子要造反
天崩开局重生后的黄权，是一朝太子，随时可能被废！母后已死，父皇不管，朝臣厌弃，就连宫中太监宫女，看黄权的眼神都透着轻蔑。身边的兄弟对黄权的太子位，虎视眈眈。北境长城破关，鞑子肆虐于中原，宁远军集团作壁上观。河洛长安蜀地，流民匪军杀之不尽。朝廷党争越演越烈，昨天阉党杀文臣，今天文臣坑害武将。废物？且看废物如何从底...
炮灰女配跑路了
你见过这么离谱的穿越吗？仅仅是喝水呛到了自己的几秒钟就穿越到了小说里。这还不算，她居然穿越成了玛丽苏爽文中的炮灰女配。不仅资源被夺，还被诬陷，死相凄惨，而女主却拿着她的功法发扬光大。她可不干，拜师的那天就跑路了，还抱上了一个金大腿，原文中堪比bug的存在，也加入了唯一一个全员正常人的宗门。大师兄为母报仇，灭人满门，...
老实人就不能玛丽苏吗
本书简介正文完结，番外隔日更。我是一名女alpha，贫穷憨厚但老实，特长是接盘。无论你是与初恋闹脾气的有钱少爷，还是被凤凰a伤害的鳏夫，又或者是名利场的交际花都可以找我，我会提供温情安慰默默心疼以及深情守望服务。总而言之，分币不花，主打陪伴就是我的人生信条。没办法，谁让我是天选的痴情冤种，不愿意看见任何人流泪。 我的老实大家有目共睹，即便有天我犯罪了，身边人接受采访也会说这是个老实人，被社会逼的。 所以就算我做错了什么事，那也不是我的问题。 我洁身自好，亲密是对方主动的。 我自尊清高，钱是被逼着接受的。 我专一深情，暧昧是被人设计的。谁让我老实又诚恳，贫穷又单纯呢？后来东窗事发，他们来势汹汹，互扯头花。 无所吊谓，我可没说过我会负责。是是是，我是说过我超爱啦。但谁说爱就一定要在一起？排雷指南1正文第一人称，玛丽苏，全员单箭头2abo，女a有唧，gb，无反攻，女主纯13非大女主爽文，纯恋爱故事整活玩票4不搞abo平权5全员烂人，人夫非c，其他c6禁吵戏份※接档※娇娇，你也不想温之娇是江远丞的所属物。这是a市名流圈心口不宣的秘密，他们没见过她，却知道江远丞养了只宠成眼珠的金丝雀，为她还折了半条腿。后来江远丞成了植物人，在病房里，圈子里的人终于见到了温之娇。木讷乖巧，漂亮怯弱。明明群狼环伺，却毫无自知地展现着脆弱。温之娇是玛丽苏小说里的恶毒女配，她会在江远丞昏迷时暴露真面目，辱骂他，虐待他，欺负女主，引起他兄弟们（男主们）的厌恶与报复，惨淡下线。她不想改变未来，一切照做，狂踩雷区，有天却收到了几封匿名邮件娇娇，你也不想他醒来吧，我（们）可以帮你。温之娇？书里没说她有炮灰跟班啊？她把几封邮件抄送给了彼此，想找出是谁。结果第二天，男主们打起来了。温之娇？她觉得一定是自己不够恶毒，还是太怯弱了。但努力变坏的她，让天生坏种的男主们看了只觉怜爱。没关系的，怯怯的也很可爱，坏一分钟也很厉害了。江远丞昏迷前，兄弟们说你跟她玩玩罢了，别太当真。为订婚折条腿？她也配？你别折磨自己了，我看不下去了。江远丞昏迷后，兄弟们说她跟你玩玩罢了，别太当真。折条腿能在一起？你也配？你怎么还没死，我看不下去了。江远丞江远丞6排雷1娇软怯弱道德感低万人迷女主，男主男配全员坏种偏执狂，单箭头，雄竞修罗场，超夸张非现实悬浮有钱描写2无逻辑玛丽苏，小学生文笔，纯感情流非爽文大女主女强（划重点）3没大纲不端水，禁吵戏份，吵的一律删评拉黑老实人就不能玛丽苏吗全文免费阅读，如果您喜欢老实人就不能玛丽苏吗叫我苏三少最新章节，请分享给您的好友一起来免费阅读。魔蝎小说...