首页 >热点 > > 正文

大模型热到芯片暴涨 阿里百度成了英伟达的打工仔|当前快播

东方资讯 2023-04-21 03:01:09

文|《中国企业家》记者 闫俊文


【资料图】

中国科技公司和创业者竞相追逐大模型,引发GPU芯片需求量的暴增,以及价格的疯狂上涨。

GPU是ChatGPT训练和部署的关键部件,这是强大算力的基础设施。根据公开消息,微软的Azure云服务为ChatGPT构建了超过1万枚英伟达A100 GPU芯片的AI计算集群。

千芯科技董事长陈巍告诉《中国企业家》,以A100芯片为例,从去年年底到现在,其单价涨了超过50%,从之前约5万元涨到了近10万元。由于A100已经被美国禁止售往中国内地,国内同行预估仅有3万枚存量。英伟达推出的A100替代版A800,国内厂商也是排队拿货,并且常常无货。

国内某大型服务器厂商的员工王石也感受到了这股浪潮。他告诉《中国企业家》,近期供应的压力比较大,包括英伟达等供应商的压力也比较大,但这并不代表错过了这一波就没有机会了,“相信今年年内供需回归到相对理性的水平”。

“我要给大家降温。这是一个突发的需求,大家不要着急,不是说我错过了这两个月或者三个月,我就失败了,远远没有到那个时候。”王石强调。

据《中国企业家》统计,除了阿里巴巴、百度等互联网巨头之外,商汤科技、昆仑万维、毫末智行、360等公司也官宣了自己的大模型,如果再加上王小川、王慧文、李开复等创业者,中国年内推出的大模型数量已经超过了10个。

一些行业人士预测,国内需要有8至20个大模型,比如生物医药计算、材料计算、化学计算、自动驾驶、气象等大模型,甚至未来四五十个也说不定。

算力、算法和数据构成了AI时代的三要素,而算力又是电力般的基础设施,有多少枚GPU,有多少算力,成为外界评估大模型研发和创业成败的关键。

在这一轮由ChatGPT掀起的大模型创业潮里,黄仁勋和英伟达成为了大赢家。

据统计,2020年,全世界跑AI的云计算与数据中心,80.6%都在用英伟达的GPU驱动。截至发稿,英伟达股价为270美元,比2022年9月时的低点119美元翻了一番,总市值为6669亿美元,成为美国第五大上市公司,比德州仪器、超威半导体(AMD)、高通、英特尔等芯片企业市值相加还要多。

五分之二的预算买算力

英伟达已经供不上货了。

近期,马斯克为推进推特内部的新AIGC项目,购买了大约1万枚GPU。从2022年末,微软就实行了GPU资源配额供给,但今年1月以来审批时间越来越长,如今部分申请需要等待几天甚至几周才能获批。同时,微软向英伟达预订的数万枚GPU芯片,交货无期。

2月份,出门问问CEO李志飞和美团联合创始人王慧文,讨论了大模型创业要花多少钱、入门门槛什么样。李志飞认为,门槛至少需要5000万美元,其中的2000万美元就是用来购买算力的。王慧文和李志飞不久前相继宣布在大模型领域创业。

根据陈巍测算,国内如果想要直接训练出一个ChatGPT3级别的大模型,常规最少需要1000枚A100级别的GPU芯片,而如果想要实际部署,不考虑冗余和响应速度,对于搜索引擎级别的服务,至少需要6000枚A100级别的GPU芯片。仅仅芯片一项,最小投入就到了近10亿元人民币。

一份流传的《阿里AI专家交流纪要》显示,百度年初紧急下单3000台8张芯片的A800服务器,这意味着需要2.4万枚A800,而预计全年百度会有A800和H800共5万枚的需求。阿里云预计在今年需要1万枚左右,其中6000枚是H800。此外,阿里云也会用到平头哥这种自研的芯片,每年采购大概3000枚。

2022年9月,英伟达发布H100型号GPU,但被美国禁止出口至中国,但英伟达怎会忍心错过中国的大模型热,为了出口,英伟达牺牲了部分性能,在今年推出了H800版本。

对照百度发布的文心一言,陈巍测算,按照国内成本估算单次应答成本5分钱,如果日访问量10亿人次,以月租价格评估,每天云计算成本约5000万元人民币,一个月将增加成本15亿元,一年增加成本180亿元,远远高于训练成本。此前媒体估算,ChatGPT光3月份的电费就得交近200万美元,这差不多跟27.5万中国居民一个月用电量相当。

《中国企业家》了解到,对于不缺钱的巨头来说,A100存储量也不多,未来采购以A800和H800为主,但仍需要V100等老式芯片补充。V100性价比高一些,在云上跑的成本是A100的三分之二左右,但运行速度较慢,如果是ChatGPT4级别大模型就不够用了。

也就是说,要想大模型算得更快、更准,必须适配最先进的GPU芯片。虽然拿不到最先进的GPU,但大模型玩家依然在积极囤货。按照上述数字估算,国内对A800以及H800的需求已经到了数十万级别。

王石说,目前来看,对于算力的需求可以说是上不封顶,有多少算力,都希望能够投身进来,“只能这么说,越多越好”。

仅仅靠资本似乎已经玩不转了,大模型之战,最后结局可能还是巨头之间的游戏。

一位头部投资机构的负责人告诉《中国企业家》:“创投界这点资本是不值一提的,资本它对整个行业的格局不造成影响,本来就这点钱也投不起,中国这几个VC加上PE,今年不在ChatGPT上投下10亿、20亿美元,水漂都打不起来,做不了几个训练级,但是百度和华为如果愿意在上面努力去做的话,我觉得投得起。”

瘸腿奔跑的中国大模型

不管是阿里巴巴、腾讯、百度等巨头,还是王慧文、王小川等创业者,他们不得不戴着枷锁跳舞:一方面,迫于美国的芯片禁令,他们得不到最先进的芯片源源不断的支持;另一方面,他们还要追赶国外已经到了ChatGPT4水准的技术。

陈巍感慨中国AI企业的不易。如果得不到国外先进的芯片,中国企业只能使用比较老旧或者工艺成熟但不那么先进的芯片,综合性能可能只有A100的60%,数量需要更多,跑得却更慢,综合成本要高出20%至30%,对于企业来说,这很有可能是赚钱和不赚钱的分水岭,活下去和活不下去的分水岭。

处处受限,起步又晚,但大模型也得干下去。

王小川在接受媒体采访时说,晚了也得干。美国人之前把核弹造出来,中国就不造了吗?这跟创业公司本身没关系,是中国要不要做的问题。

王石认为,中国企业没必要“芯片焦虑”。他提到了前几年“挖币”造成的硬盘泡沫,结果造成了SSD(硬盘)的一地鸡毛,整个硬盘厂商在2022年整年可能都在消耗库存。

GPU只是大模型创业链条中的一环,机房环境、算法、人才等等也必须配套跟上。

IT设备特别是计算设备的迭代和更新太快,如果在没有准备好的时候,放在库房里没有用,放一年,价值就浪费了。“现在都在用A800,今年下半年就有H800,性能提升很快,这个时候抢到了A800,但如果还没有用起来,是没有价值的,永远会有新产品出来。”王石表示。

王石还补充说,现阶段,算力的供应无论如何是不够的。这有两个策略,一个是把后台的产能跟上,另一个则是优化效率,通过算法等技术手段提升可用算力的效率。

英伟达成最大赢家

阿里和腾讯近期在算力市场都有重大动作。

阿里云在4月11日峰会上说,阿里云进行有史以来最大幅度的一次降价,通用计算将大幅降低,对比上一代主售产品最高可下降40%,还发布了“飞天免费试用计划”,开放计算存储、数据库、机器学习等核心产品免费试用。

腾讯则发布了新一代高性能计算集群HCC,采用了国内首发的英伟达H800 GPU。有数据称,腾讯云新一代集群的算力性能较前代提升高达3倍,是国内性能最强的大模型计算集群。

但不管哪家,他们都摆脱不了一个名叫英伟达的厂商,其创始人黄仁勋,江湖人称“黄教主”,他多次为此次ChatGPT浪潮鼓风。

“我们正处于AI的iPhone时刻。”黄仁勋在3月2023年GTC大会上说,“初创公司正在竞相打造颠覆性产品和商业模式,科技巨头也在寻求突破。”

在此次大会上,黄仁勋发布了ChatGPT专门使用的芯片H100,而且他宣布,将会把由八块旗舰版A100或H100芯片集成的超级AI计算系统通过租赁的方式开放给企业。每月租金为37000美元,以加速推动这轮大语言模型引领的AI繁荣。

外媒一份数据显示,英伟达占据了95%图形处理器的市场份额。IDC数据显示,国内GPU服务器在2021年占国内服务器市场规模的比例超过88.4%,英伟达的产品占比超80%。

联想集团CTO芮勇说,目前来看,还是英伟达的天下,但未来不确定,因为大家对算力的需求只会越来越大。

行业人士说,未来GPU和算力的需求一定是多元的,或者说异构的。到了现在算力需求大爆发的时候,带来的第一个变化就是在这个领域多元化的蓬勃发展。

水大鱼大,但虾米和浮游生物等也会有存活机会。多元带来了更多的机会,但是最后谁能胜出,就看谁的战略定力,能持续地投入。

(应采访对象要求,文内王石为化名)

上一篇:6G技术研发迎重大突破,概念股集体大涨,行业未来趋势怎么走? 全球微头条 下一篇:最后一页
x
推荐阅读

大模型热到芯片暴涨 阿里百度成了英伟达的打工仔|当前快播

2023-04-21

6G技术研发迎重大突破,概念股集体大涨,行业未来趋势怎么走? 全球微头条

2023-04-21

环球新消息丨鸡胸肉的做法大全家常菜_家常菜鸡胸肉的做法与步骤

2023-04-21

当前视讯!2023郑州人才公寓开放时间表(附申请入口)

2023-04-21

世界今热点:2023天津五一江小东和刘小文演出观演指南

2023-04-21

万得全A指数遭主力资金净卖出逾200亿元 基本金属净卖出33.26亿元居首

2023-04-21

元成股份:刘巧任公司证券事务代表|天天关注

2023-04-21

靖难之役时,朱允炆为何下旨任何人不得诛杀朱棣?

2023-04-20

高速公路喷播机_关于高速公路喷播机简述|热点在线

2023-04-20

捷威动力携“海绵系统”及多款新品亮相上海车展

2023-04-20

稳步提升粮食产能 全面推进乡村振兴 观热点

2023-04-20

第133届广交会第一期入场超126万人次

2023-04-20

洛阳将围绕三大领域实施四项工作 加速推动半导体产业高质量发展

2023-04-20

盗墓笔记和鬼吹灯作者 鬼吹灯和盗墓笔记的关系 全球快资讯

2023-04-20

全球观热点:民警:以为是去止付,没想到是去制服

2023-04-20

激光武器就是利用什么的能量直接_激光武器 焦点速看

2023-04-20

浙江:发展数字人虚拟主播、元宇宙新消费场景等新业态新模式-每日观察

2023-04-20

三笘薰再谈大学论文:被媒体给夸张了,对我踢英超其实没帮助|天天热点评

2023-04-20

2023上海车展:2026年回归F1赛场 全新奥迪F1赛车正式亮相

2023-04-20

环球关注:男子杀害3名亲属后自首 警方通报 其中女儿年仅4岁

2023-04-20

魅族PANDAER×IQUNIX热爱无界键盘开售:支持三模无界连接,999起

2023-04-20

进口新车报道:捷尼赛思于4月2日举行入华发布会 并公布车型阵容

2023-04-20

光热发电规模化开发助力新能源高质量发展

2023-04-20

iPhone 15 Pro Max将配备潜望长焦

2023-04-20

台州、绍兴共3宗涉宅地出让 天台地块二度流拍|天天通讯

2023-04-20

新疆图木舒克出现大风沙尘天气-每日快看

2023-04-20

小米POCO F5 Pro手机现身Geekbench:搭载骁龙 8+ Gen1 移动平台|天天新要闻

2023-04-20

陕西省印台区发布沙尘暴黄色预警

2023-04-20

华为轮值董事长孟晚舟:华为将在联接、计算、存储、云等方面保持投入|焦点速递

2023-04-20

今日热文:四川广安前锋区:禁毒宣传进社区

2023-04-20

江西省铜鼓县开展“你点我检 你送我检”活动 世界热点评

2023-04-20

银行板块涨0.05% 邮储银行涨1.88%居首_天天速递

2023-04-20

世界看热讯:联想控股:近期累计出售东航物流3.53%股份 预期确认收益约3.9亿元

2023-04-20

《中国标准化发展年度报告(2022年)》发布

2023-04-20

德惠吧贴吧_德惠吧_全球快资讯

2023-04-20

港股异动 | 海信家电(00921)再涨超6% 盈喜后累涨逾30% 预计一季度净利最多增长135% 世界通讯

2023-04-20

华为孟晚舟:成功的数字化转型都是由战略驱动 而非技术驱动|天天热门

2023-04-20

【天天快播报】seaside造句(seaside)

2023-04-20

当前视点!南宁一女子深夜约见网友,4名陌生男子突然闯入......

2023-04-20

全球热头条丨如何疏通排水管中的棉绒_送父亲节礼物排行榜

2023-04-20

世界热点评!鍥剧墖鏂囦欢鎬庝箞鍦ㄧ嚎杞崲鎴恓pg鏍煎紡鎵撳嵃_图片文件怎么在线转换成jpg格式

2023-04-20

白云山医药集团在广州成立物流公司

2023-04-20

天润工业董秘回复:公司机床设备不属于工业母机

2023-04-20

@太原人,春游出行切莫乘坐超员车

2023-04-20

全球热文:上海:形成枢纽型数据中心集群、城市数据中心集聚区、边缘数据中心梯次布局

2023-04-20

68岁林青霞遭小三逼宫?富豪老公被曝在外养私生子 为扶正情人甘愿赔偿60亿-焦点热议

2023-04-20

格灵深瞳:2022年度净利润约3261万元

2023-04-20

天天速递!金琥的养殖方法和注意事项_金虎的养殖方法

2023-04-20

百合都有哪些吃法_百合的烹饪方法|天天快资讯

2023-04-20

太阳123-109逆转快船 布克38+9 KD25+6 小卡31+9+7 威少28分

2023-04-19

世界微动态丨股票被套如何解套?应该怎么做?

2023-04-19

世界即时看!欧冠4强,米兰却收到坏消息:23岁核心将被变卖,皇马不谈兄弟情

2023-04-19

上海:加大科研人员激励力度 科研项目劳务费可缴纳社保和公积金

2023-04-19

新手如何买股票 怎么在手机上注册买股票

2023-04-19

全球讯息:2023上海车展|薛炯:降价不是唯一对策 飞凡销售渠道已覆盖64城172家

2023-04-19

每日热议!井冈山大学2022年艺术类本科专业录取分数线

2023-04-19

山东手造展暨胶东农民画联展将于4月20日在青岛名家美术馆开展

2023-04-19

曝于和伟规则《狂飙》隆妮,信息、照片都对上了,但却有蹊跷-焦点讯息

2023-04-19

微头条丨特朗普回归Instagram再卖数字交易卡,仅6小时赚460万美元

2023-04-19

财政部将进一步增强税费政策精准性 促进经济高质量发展|世界热消息

2023-04-19

安集科技(688019)4月19日主力资金净买入4869.83万元

2023-04-19

我国确定12项“十四五”中医药文化弘扬工程重点任务

2023-04-19

请在此国中国公民尽快填报个人信息!

2023-04-19

世界快看:歌洋电视剧_歌洋

2023-04-19

当前视讯!又一年北影节抢票大战,黄牛别太嚣张了

2023-04-19

总台独家影像再揭日寇滔天罪行 基本信息讲解 世界简讯

2023-04-19

一季度投资消费外贸全面回暖

2023-04-19

“喝20元白酒被处分”是一堂生动的廉政课

2023-04-19

争霸B级纯电SUV市场?比亚迪宋L概念车上海车展震撼登场

2023-04-19

2023上海车展:现代伊兰特N正式亮相

2023-04-19

每日播报!硬核快报丨比亚迪云辇大猜想 这到底是个什么高科技?

2023-04-19

全球焦点!每晚九点才关门,“深夜修理铺”只为等客下班取货

2023-04-19

速递丨国内航空客运规模恢复至疫情前约九成

2023-04-19

天天实时:男子淄博烧烤摊醉酒闹事被民警秒带走 网友纷纷点赞: 满满的安全感

2023-04-19

环球新资讯:金正恩视察朝鲜国家宇宙开发局

2023-04-19

河北宁晋:小小羊肚菌 增收大产业|天天要闻

2023-04-19

世界看点:除甲醛除味有效方法 除甲醛除味最有效方法

2023-04-19

河南省水利产业投资基金揭牌成立

2023-04-19

因开枪打伤走错家门的非洲裔少年 美国一名84岁男子自首

2023-04-19

因地制宜建设数字乡村

2023-04-19

全球今头条!北京多家艺术院团联合推出演出季

2023-04-19

视点!海信Vidda X85 Pro,画质出色音质绝佳,这电视很香

2023-04-19

暴雨预警!江南华南等部分地区有大到暴雨 广东福建有大暴雨-资讯推荐

2023-04-19

当前聚焦:皮奥利:奥斯梅恩的存在让我们收缩防守 为米兰效力要能承受压力

2023-04-19

Spring Cloud Task 任务开发-实现任务处理逻辑(一)

2023-04-19

秋闱是哪一场考试_秋闱是什么时候考试

2023-04-19

LOL公布上半年假赌赛调查公告:op等选手终身禁赛

2023-04-19

全球通讯!宁夏原州区和润村:湖羊成了“致富羊”

2023-04-19

解读一季度经济|专访张建平:二季度及下半年消费增势有望超越首季,大宗消费将成消费新亮点

2023-04-19

AI合成主播|农业农村部发布2023年国家农作物优良品种推广目录 天天热资讯

2023-04-19

兰临750千伏变电站330千伏送出工程竣工投运

2023-04-19

北京:“公交便民驿栈”方便市民生活|世界播报

2023-04-19

择天记:莫道君行早

2023-04-19

西藏察隅珞巴族:水稻田里春耕忙|资讯

2023-04-19

科乐美宣布游戏王世界锦标赛2023将于8.5在东京举办

2023-04-19

【速看料】武汉轮渡人气急剧攀升 已成外地游客网红打卡地

2023-04-19

【世界新视野】信阳市5家单位获评2022年“‘科创筑梦’助力‘双减’科普行动”优秀单位

2023-04-19

九五之尊是什么意思呀_九五之尊是什么意思

2023-04-19

一立方混凝土施工价格(一立方混凝土造价) 环球短讯

2023-04-19

当前头条:孕妇可以吃海带吗中期_孕妇可以吃海带吗

2023-04-19