大规模购入显卡这件事儿,微软和OpenAI丝毫没有对外保密,甚至搞的格外高调。这边刚一做完决定,立即就搞得满世界都尽人皆知了。
“这……”纪弘到相关消息,简直有些哭笑不得:预测模型这么准的吗?
想想很离谱,但仔细一分析,确实也在情理之中——因为微软压根儿就没有第二条路可以走。
耳语系统虽然没有表现出超强的攻击力,卷耳智能科技甚至都没有为它开过一个发布会,有点儿并不重视的样子,但它的战斗力就在那,任谁都没法忽视。
哪怕根本就没有正式在美欧地区销售,就已经开始慢慢的侵袭微软的Windows市占率了。
如果下一个版本还不能扭转过局势来,那劣势瞬间就会转化为败势!
生态是护城河不假,但被护城河淹死在城内的可是有先例——当年诺基亚塞班系统市占率高吧?现在再,哪里还能到它的影子!
护城河是对同级产品而言的,过于落后,掉到河里的只会是自己。
纪弘也是想到了这儿,随后又了那个预测类AI模型:如果变量过多,时间很长,对它来说确实难度很大。
但如果变量很少,就像这次,预测GPU行业,单单就这一个行业,预测某些公司的短期动向,起来还是很靠谱的。
“这东西包装一下也是一个非常强大的产品!”纪弘这么想着:“先拿去给陈继业做企业分析试试。”
“微软这边……”决心下的那么大,所有人都出微软要做什么了,纪弘当然也不例外,这个时候,他在思考这样一个问题:
“现在他们的大模型,Transformer这类的,靠无限制的堆积算力,就能无限的提高模型能力吗?”
纪弘对此还真没有研究——先前在创界,主要利用别家平台进行接口对接开发,后来自己创业,上来就是类思考模型,对T模型属于降维打击,并不存在这样的问题。
他对此没有什么研究,但有一个人一直在关注着这方面——这个人就是孙博。
“靠无限制的堆积算力获得高性能大模型,短期内是可行的。”
孙博也是到了微软的行动,在CSDNBlog跟一群人正在探讨相关的话题:
“长期的话,倒不是有上限,真要有魄力不计成本无限制的去堆积算力,理论上是真的能够获得无限制的性能提升的。
“但也仅仅只是理论上,这里边有一个巨大的问题,根据我的研究,它的增长不是线性的。
“我大约计算过,实际的增长曲线就不说了,很复杂,但大约可以简化为这个函数:y=c·log(e)·(X+1)。
“这里边y指的是性能,X你们就姑且理解为算力堆积的基本单位,大约趋势如下图。”
就算是对数学再不懂的人,到这个公式也该出来了,因为这个函数的曲线到最后,几乎就是一条平平的横线。
也就是说,当显卡堆积达到一定规模之后,就算再堆积硬件,性能虽然也会增加,但增加的也会十分有限,到最后甚至肉眼都不可见了。
这么说着,孙博还举例道:“以现在的GPT4为例,如果想要一个2倍GPT4参数的大模型,对算力的需求大约会是多少呢?
“我计算过,大约需要十几倍。而且公式计算的只是理论效果,而更大规模的集群,片间互联的损失肯定也会更大,实际效果只会更差。”
孙博很是热情,只要不涉及他自己工作的机密和核心,只要他在的时候,那几乎是有问必答的。
纪弘也正好翻到这儿,他没有过多的惊讶,片间互联损失这一块儿本身就不好解决,要不然超大规模智算中心也不至于这么稀有了——河州大学搞的那个还是纯国产第一例。
请勿开启浏览器阅读模式,否则将导致章节内容缺失及无法阅读下一章。
穿越原始成为巫 被迫嫁给大佬后我躺赢了 苏久苏羿寒 [快穿]男主,快到怀里来! 叶枫林诗诗 [综名著]了不起的达西小姐 李铁柱杨柳 韩阳江颜 南九心刘玄朗 娱乐:我终于等到粉丝成年了 慕南絮瑾九 宁云沈欣愉 5t5今天追到御主了吗? 穿越后我怀了豪门霸总的崽 港综:我无敌你随意 被迫rua上偏执大佬后[快穿] 被大圣收养的日子里[西游] 逃荒,末世农女拽翻天 真千金她靠算卦火遍全球了 姜居夏顾凉墨
上辈子上个警察的林耀,没想到这辈子也是个警察,还是个卧底警察,卧底在这个融合了无数经典电视剧,经典电影的特殊世界内。寄语死亡非是终结,亦或是无限开端...
仙宗小天才渡劫失败,魂穿成现代小网红后。非常美貌刚毁容。一线别墅烂尾的。身为老板欠债的。墨仙仙从头再修仙,这都不是事儿道君的现代修仙生活,就是这么滴变幻莫测,且刺激。有修仙世界穿梭,...
穿越成了皇子是好事,可秦子轩发现事情好像有些不对,贾宝玉是个什么鬼,贾史王薛四大家族又是什么鬼,小皇子抬头望天,摸了摸小狐狸的头,突然感觉有些淡淡的忧伤o╰o我的完结文洪荒之人皇不好当,红楼之...
宇智波富岳对眼前的宇智波鼬说道宇智波是木叶第一大家族,不需要政变也能掌权。...
第一个世界,谢仪说我今天喝了脉动,吃了果冻,对你有些心动。温圻一脸严肃不能早恋。第二个世界,谢仪说这是我的手背,这是我的脚背,你是我的宝贝。温圻一本正经你现在不能有绯闻。每一次交手都...
旧纪元已逝,诸神并起的超凡纪元降临,升华者腐化者禁忌物诡秘禁区阴沉雾霭笼罩大地,深渊呢喃,黑夜将至。周尘意外得到一个神秘的许愿瓶,只要实现别人的愿望,就能获得心愿值。火与希望,终将撕破黑暗。奇迹星晖闪耀,人类必将永存纵使忤逆神明!那么,说出你的愿望吧。哦对了,许愿前先看看你裤子里面,再看看你的银行卡余额。是的,我做这行很久了。...