逐浪AIGC?|生成式AI的花园里 英伟达如何做“挖掘工”

发布时间:2023-05-30 23:03:38     来源:21世纪经济报道

南方财经全媒体记者江月 上海报道5月29日在台北国际电脑展上,英伟达创始人兼CEO黄仁勋宣布:“CPU扩张的时代已结束。”整场持续了2小时的演讲中,他围绕着生成式AI带来的“触发点”,将英伟达近期的硬件、软件、系统新品进行了一番兜底式介绍。


【资料图】

黄仁勋称,GPU塑造的“新计算机”到来了。由英伟达打造的新型“计算机”,形态已经不同以往,它的单台售价高达20万美元。在“昂贵”的争议之中,黄仁勋又称,GPU是每个电力预算有限的公司之不二选择,也是最“省钱”的基建选择。

黄仁勋近期在公开演讲中称,面对AI时代,人们需要“奔跑、而不是慢慢地走”。在生成式AI的花园里,英伟达显然正在奋力挖掘中。

解码GPU数据中心成本

“大家总是说GPU数据中心很贵,让我来算给你看。”5月29日,英伟达创始人兼首席执行官黄仁勋在台北国际电脑展上,向公众具体地介绍了GPU数据中心的成本。

在此次与供应商、客户的见面中,英伟达带来了全新的AI“计算机”DGX GH200。这是一款集成了256个英伟达最高性能CPU和GPU的超级计算机,能满足“超大大模型”的训练需求。

DGX GH200使用英伟达NVLink-C2C互连技术,将基于Arm的Grace架构CPU和Hopper架构GPU进行架构互联,实现了高达900GB/s的总带宽,比传统加速系统中的标准PCIe Gen5通道高出7倍,这种算力能够满足眼下要求最苛刻的生成式AI和HPC应用。

(图为英伟达于5月29日公布的GH200 Grace Hopper超级芯片,由英伟达公司供图)

随着市场对数据中心基建需求的增长,英伟达眼下也需要向市场施展一些“销售手段”。最迫切的需求,就是化解人们对其设备“昂贵”的恐惧。

简单来说,“使用GPU数据中心,你可以获得150倍的性能,并省下2/3的成本。”黄仁勋称。

黄仁勋介绍,以同样的1000万美元预算为例,AIGC开发商可以搭建一个由960个CPU服务器组成的数据中心,这足以训练1个大语言模型,最终的运营消耗是11千兆瓦时电力(GWh,相当于1100万度电)。

但若换做GPU,则可搭建一个由48个GPU服务器组成的数据中心,不过这个数据中心可以训练44个大语言模型,总共消耗3.2千兆瓦时(相当于320万度电)。

按照上面的计算方法,按照单片价格计算,一片GPU芯片的价格是一片CPU的20倍,似乎“更贵”。不过,如果按照数据中心TCO成本计算法,则GPU数据中心更“省钱”。

黄仁勋甚至直接在演示PPT中列出了一个公式:数据中心持有成本=f{硬件成本(芯片、系统、硬件生态系统),吞吐量(GPU、AIgo软件、网络、系统软件、软件生态系统),使用率(AIgo Lib、软件生态系统),采购运营,生命周期最佳化,算力},从而解释了数据中心的TCO成本问题。

“为什么这非常重要?因为现实生活中大多数企业都有电力限制。”黄仁勋再次强调。如果加上这一客观因素,企业在投身AIGC时,就必须选择更高效、更低功耗的数据中心产品。

为何GPU在数据中心中的性能如此强大?黄仁勋介绍,这主要归功于三大功能:光线追踪(模拟光的特性)、以张量计算为核心的人工智能和全新的算法。

英伟达于2017年开始实践在GPU上同时实现上面三个功能,当时用GPU生成图片的效果首次惊艳了市场。当时,使用CPU服务器“无中生有”一张图片需要花费数个小时(这个过程用专业说法叫做“渲染”),但英伟达使用GPU只花了15秒。

不过,新型GPU计算机的所谓“便宜”,并不是针对消费级市场的。值得注意的是,由于它的高昂价格,目前无法在个人电脑市场上替代CPU为核心的PC、笔记本等。

在演讲现场,黄仁勋揭开了一台由8个H100芯片组成的“新型GPU计算机”。“它是全球最昂贵的计算机。”黄仁勋称。

这个新型电脑重达65磅(大约29.5公斤),必须要借助机器人才能实现平稳、精确的安装。“这台电脑售价20万美元。”黄仁勋称。

启动AIGC行业变革

用硬件来淘汰“CPU时代”,还只是英伟达攻占AIGC龙头地位的第一步。眼下,英伟达已经在软件生态圈中进行精心布局,除了将CUDA计算模型推广给400万名软件开发者以外,还推出了游戏AI模型代工服务,并深入到制造业中支持虚拟工厂、机器人仿真技术和自动化检测。

“为什么这么多年来,人们无法创造一种新的计算方法?”黄仁勋谈及CPU时代时称。他指出,这是因为硬件与软件、消费市场与开发商供应者之间存在一种“鸡生蛋、蛋生鸡”的关系,导致互相牵制,令基于CPU的计算方法得以持续甚久。

因此,为了打破“CPU时代”的桎梏,英伟达除了大力设计芯片硬件,也十分关注搭建软件生态环境。CUDA计算模型就是英伟达为这个长远布局落下的一枚关键棋子。

“英伟达Cuda计算模型现在服务于400万开发者和超过3000个应用程序。Cuda的下载量达到了4000万次,其中仅去年一年就达到了2500万次。”黄仁勋称。他指出,在拥有了如此庞大规模的软件基础上,GPU取代CPU才实现可能。

总结黄仁勋两个小时的演讲内容,可以看到英伟达对AIGC领域的挖掘,涵盖了核心的超级芯片、到互连技术再到算法引擎的优化、以及配套软件的升级。

事实上,AIGC所涉及到的文生文、文生图、2D图生3D图等,正在经过多种大模型或应用进行实现,包括英伟达旗下的对话式 AI 模型开源框架NeMo、Meta旗下的大模型LLaMa、使用GPT模型的应用ChatGPT、以及文生图应用Stable Diffusion等。目前,全球最有影响力的AIGC科技龙头都在深度使用英伟达所提供的工具,也推动英伟达在美股市场上攀爬“1万亿美元”市值的高峰,很快就要和苹果、微软、谷歌、亚马逊一起处于“万亿俱乐部”中。

英伟达此次带给AIGC行业的工具之多,令市场感到十分吃惊。除了以上的产品,英伟达在大型游戏创作和数字化工厂方面的介入,也十分引人注目。

在游戏创作方面,黄仁勋展示了一段游戏片段。这个片段中,除了现实感逼真的画面制作外,游戏玩家和NPC之间的对话也是完全由AIGC生成的。换句话说,以后的游戏可以“千人千面”,玩家面对的不再是只会吐露模式化回复的NPC。这个功能依赖英伟达的AI模型代工服务ACE游戏开发版,有利于游戏开发商简易上手上面的功能。

英伟达又介绍,现在一些领先的电子制造商已经使用英伟达的AIGC和元宇宙平台omniverse实现工厂的“数字化”。

在制造业,全球大约有1000万家工厂,它们是工业数字化的重点领域。

黄仁勋表示:“工业制造的都是实物,如果能先以数字的方式制造产品,可以节省数十亿美元。”

眼下,在工业领域,英伟达主要打造了Omniverse和生成式AI来帮助工厂进行虚拟工厂的设计,还推出了Isaac Sim模拟和测试机器人、Metropolis光学检测自动化工具。

据了解,富士康、和硕、广达等电子设备制造商已经在利用英伟达上述工具加快笔记本电脑、智能手机的生产和装配。

标签:

精彩推送

逐浪AIGC?|生成式AI的花园里 英伟达如何做“挖掘工”

南方财经全媒体记者江月上海报道5月29日在台北国际电脑展上,英伟达创始人兼CEO黄仁勋宣布:“CPU扩张的时

2023-05-30

环球视讯!2023中关村论坛|智能签约产品“Hubble”将行业带入“SaaS网络+AI智能化”阶段

据介绍称,作为数字经济时代的信任基础设施,电子签约应用是产业数字化升级的重要一环,推动企业提质增效,

2023-05-30

天天快消息!促科技与生产紧密结合

当前,蔬菜产业进入转型升级关键期,推动科技与生产相结合,是蔬菜产业发展的重要任务。面对纷繁复杂的市场

2023-05-30

陆家嘴承诺:未来拿地、开发新楼盘不使用重组募集资金_每日资讯

5月30日,上海陆家嘴金融贸易区开发股份有限公司发布发行股份及支付现金购买资产并募集配套资金落实函的回

2023-05-30

家中来客人不用慌?学会4道家常小炒,鲜香美味,下酒下饭都合适

家中来客人了,是下馆子,还是自己下厨,相信更多的时候,还是下馆子多,如果人多也就算了,但如果人少的话

2023-05-30

签约100%!房票补偿100%!翔安这个村整村搬迁告捷~ 世界热头条

签约100%!房票补偿100%!翔安这个村整村搬迁告捷~,翔安,征迁,搬迁,建发,房地产,房票补偿

逐浪AIGC?|生成式AI的花园里 英伟达如何做“挖掘工”

南方财经全媒体记者江月上海报道5月29日在台北国际电脑展上,英伟达创始人兼CEO黄仁勋宣布:“CPU扩张的时

买房“负首付”?深圳紧急叫停 速讯

自去年以来,房地产市场较为低迷,阴阳合同、经营贷置换按揭等套利手段死灰复燃,银行放贷压力大,导致信贷

全新发展,中交地产发布品牌战略白皮书|环球微动态

全新发展,中交地产发布品牌战略白皮书,白皮书,房地产,中交地产,中交集团

观速讯丨ford是什么车_tom ford是什么牌子

1、就是属于TOMFORD自己的牌子旗下的彩妆,2011年开始推出一系列的粉底唇膏香水等等。2、就是那设计师的。3、如

事关重启“商转公”,西安官方最新回应!

事关重启“商转公”,西安官方最新回应!,贷款,商贷,西安,个贷率,商转公,住房公积金

环球百事通!老外看中国太空探索:成就非凡 世界瞩目

​5月30日,神舟十六号载人飞船发射取得圆满成功。对于中国近年来在太空探索中取得的成就,国际社会有目共

新消息丨中国城市排名:一、二、三线城市竞争加剧,排名因素分析

中国城市排名:一、二、三线城市竞争加剧,排名因素分析,三线城市,城市经济,一线城市,中西部地区,中国城市

今日美盘欧元/美元操作策略分析(2023年5月30日)

周二盘中,截止目前,欧元 美元货币对1 0731 1 0730,上升至0 0023,增幅0 22%。欧元 美元反弹风险升高,美

护航三夏|宝丰:全力抓好“三夏”抢收工作

“真是太感谢村‘两委’干部跑到家里通知收麦,还有乡里安排的收割机,俺家的麦可算从地里收回来了,解决了

珠城科技:公司的产品主要应用于消费类家电 同时以汽车领域作为公司未来的重要发展方向

每经AI快讯,有投资者在投资者互动平台提问:公司有数据类的连接器吗?珠城科技(301280 SZ)5月30日在投资

万凯新材最新公告:2022年度权益分派10转5派3元 股权登记日6月6日

万凯新材公告公司2022年年度权益分派方案为以公司现有总股本343395400股为基数向全体股东每10股派3000000元

每日快看:中国星辰|任重道远 中国空间站全面建成后“任务表”公布

央视网消息:5月29日,空间站应用与发展阶段飞行任务总指挥部在酒泉卫星发射中心召开神舟十六号载人飞行任务

观沙岭地块竞价17笔熔断,华润、招商摘得长沙内五区纯住地|世界新消息

观沙岭地块竞价17笔熔断,华润、招商摘得长沙内五区纯住地,乐城,熔断,土拍,楼面价,观沙岭,长沙市,华润集团,

克里斯托弗诺兰新电影_克里斯托弗诺兰 天天最资讯

1、《盗梦空间》2、克里斯托弗·诺兰(ChristopherNolan),1970年7月30日出生于英国伦敦,导演、编

克宫:无人机袭击莫斯科是乌克兰的报复

俄罗斯总统新闻秘书德米特里•佩斯科夫称,针对莫斯科和莫斯科州的无人机袭击是基辅政权对俄罗斯周日对其决

限价13500!招商蛇口&天心国资竞得长沙南中心地块!-焦点报道

限价13500!招商蛇口&天心国资竞得长沙南中心地块!,住宅,天心区,长沙市,招商局,招商蛇口,中海地产,天心国

安达智能:5月29日召开业绩说明会,投资者参与-前沿资讯

2023年5月30日安达智能688125发布公告称公司于2023年5月29日召开业绩说明会具体内容如下问刘总好在公司年报

珠海冠宇(688772.SH)附属拟入股璞泰来(603659.SH)控股子公司江苏嘉拓|观点

智通财经APP讯珠海冠宇688772SH公告公司全资子公司珠海冠明投资有限公司冠明投资公司关联方珠海冠和投资合

焦点快报!一季报PK:互联网八大豪门,增长最慢的是它

8家互联网大厂,6家员工减少》(2023年8月24日)。今天,我们继续看这些主要的上市互联网大厂,2023年一季

环球视讯!2023中关村论坛|智能签约产品“Hubble”将行业带入“SaaS网络+AI智能化”阶段

据介绍称,作为数字经济时代的信任基础设施,电子签约应用是产业数字化升级的重要一环,推动企业提质增效,

天天快消息!促科技与生产紧密结合

当前,蔬菜产业进入转型升级关键期,推动科技与生产相结合,是蔬菜产业发展的重要任务。面对纷繁复杂的市场

汉王科技:双足和四足机器人方向尚未取得研究成果_天天新动态

【汉王科技:双足和四足机器人方向尚未取得研究成果】汉王科技(002362)5月30日在互动平台表示,2022年公司

越秀资本: 关于控股子公司越秀租赁拟发行公司债券的公告 每日热门

越秀资本:关于控股子公司越秀租赁拟发行公司债券的公告

全球快报:湘投轻材拟转让泸溪县高新技术产业开发区内工业用地的土地使用权 账面价值2153.93万

湘投轻材拟转让泸溪县高新技术产业开发区内工业用地的土地使用权账面价值2153 93万,泸溪县,工业用地,湘投轻

140个重点项目,60村全改造!佛山2035年旧改规划出炉!

140个重点项目,60村全改造!佛山2035年旧改规划出炉!,三旧,南海区,顺德区,城中村,60村,佛山市,旧改规划,

陆家嘴承诺:未来拿地、开发新楼盘不使用重组募集资金_每日资讯

5月30日,上海陆家嘴金融贸易区开发股份有限公司发布发行股份及支付现金购买资产并募集配套资金落实函的回

中央大街 中央大街简介

今天来聊聊关于中央大街,中央大街简介的文章,现在就为大家来简单介绍下中央大街,中央大街简介,希望对各

当前时讯:水退人进 爱校如家——开江县回龙镇天师中心小学全面开展灾后清淤工作

受洪灾影响,天师小学操场、楼道大量淤泥、杂物遍布。5月29日上午学校党支部书记夏正学带领全体党员同志发

【新华财经调查】贝亲奶瓶被指刻度不准并伴有异味 母婴市场呼唤产品质检“求助有门”

近日,一消费者向记者投诉称贝亲奶瓶刻度存在问题、且有异味。对于产品被指刻度不准且伴有异味,记者就此向

环球快资讯丨中国成品油价迎年内第四次上调

中新社北京5月30日电(记者庞无忌)中国成品油价迎年内第四次上调。中国国家发改委30日消息称,根据近期国际

家中来客人不用慌?学会4道家常小炒,鲜香美味,下酒下饭都合适

家中来客人了,是下馆子,还是自己下厨,相信更多的时候,还是下馆子多,如果人多也就算了,但如果人少的话

河北省教育技术中心开展助力乡村师生信息素养提升牵手行动和爱心助教捐赠活动

5月29日,河北省教育技术中心赴保定市涞源县开展助力乡村师生信息素养提升牵手行动并举行爱心助教捐赠活动。

天天热点!电动车有新情况,消费者买车连踩“坑”,这个品牌电动车要注意

请您在阅读前,先点击上面的“关注”。感谢您的支持,我们将为您带来更多有价值的内容。今年第二季度的市场

补时连进两球,青岛西海岸绝杀晋级足协杯下一轮 焦点速看

半岛全媒体记者潘立超北京时间5月30日下午,中国足协杯第二轮展开争夺,江西黑马青年坐镇赣州定南青少年足

英伟达CEO黄仁勋:最希望AI能帮人类制造药物、预测天气|天天微动态

英伟达CEO黄仁勋今日表示,对于AI未来发展路径,可以从应用和产业两个方面来看。一方面,随着AI演进,有望

全球热资讯!老兵牵手“红领巾”,少先队员提前过六一

极目新闻记者陈倩通讯员叶静黄飞王婷婷5月30日,极目新闻从襄阳市退役军人事务局了解到,六一前夕,襄阳市

世界短讯!毕节纳雍:薰衣草花开,芳香产业助振兴

初夏,在毕节市纳雍县厍东关乡李子村芳香产业基地,薰衣草花已经陆续开放。“听说李子村薰衣草花开了,就约

家联科技携百余款环保低碳产品亮相2023HOTELEX上海展|天天速讯

家联科技携百余款环保低碳产品亮相2023HOTELEX上海展2023-05-3019:45来源:证券日报网5月29日,HOTELEX2023

疗养院与养老院(疗养院和养老院区别)

今天小编宋丹来为大家解答以上的问题。疗养院与养老院,疗养院和养老院区别相信很多小伙伴还不知道,现在让

去年成功扭亏的罗牛山:市值6天缩水3亿 定增投资养猪场引争议

5月30日,罗牛山的股价报收6 81元 股,不涨不跌,总市值为78 42亿元,这是罗牛山近期第二次平盘,此前,罗

外媒:北约士兵控制科索沃一座市政大楼

据路透社5月30日报道,当天数十名北约士兵在科索沃北部的兹韦钱市控制了一座市政大楼。据塞尔维亚媒体报道

【焦点热闻】东方嘉盛(002889.SZ):2022年度权益分派10送4派1.15元 股权登记日6月6日

格隆汇5月30日丨东方嘉盛公布,公司2022年年度权益分派方案为以公司现有总股本剔除已回购股份954,500 00股

陆家嘴承诺:未来拿地、开发新楼盘不使用重组募集资金

陆家嘴承诺:未来拿地、开发新楼盘不使用重组募集资金,陆家嘴,上市公司

当前简讯:超76万方!8463户!思明区多个片区旧改启动招标

超76万方!8463户!思明区多个片区旧改启动招标,湖滨,南里,片区,旧改,招标,思明区,万寿路,东浦路,老旧小区,

苏州这次土拍很是出乎意料

苏州这次土拍很是出乎意料,苏州,土拍,路劲,楼面价,保利地产,商品住房

期待!预算超2000万元!长沙县这19个小区将有大变化! 今日看点

期待!预算超2000万元!长沙县这19个小区将有大变化!,小区,长沙县,安置房,住建局,安沙镇,长沙市人民政府

摩根大通:预计全年中国GDP增速为5.9% 消费复苏属于“K型复苏”

摩根大通:预计全年中国GDP增速为5 9%消费复苏属于“K型复苏”,中国,朱海斌,摩根大通,经济学家,经济数据,gdp增速

世界聚焦:龙虎榜 | 南方传媒今日涨停 机构合计净买入6414.82万元

5月30日,南方传媒今日涨停,龙虎榜数据显示,上榜营业部席位全天成交2 38亿元,占当日总成交金额比例为23

打击治理电信网络新型违法犯罪,去年全国破案46.4万起-要闻

5月30日记者从全国打击治理电信网络新型违法犯罪工作电视电话会议获悉,去年各地区各部门狠抓打击治理电信

精彩推荐