首页 资讯 财经 国内 专栏 生活 关注 图库 艺术 关于

科技

旗下栏目: 科技 汽车 健康 旅行

相当于5个H100!英伟达最新王牌B200让全世界用上AI?(2)

科技 | 发布时间:2024-03-19 | 人气: | #评论#
摘要:1 Exaflop = 10^18 Flops 如果你的笔记本电脑每秒完成1 Flop,那么完成10^18 Flops就需要: (10^18 Flops) / (1 Flop/second) = 10^18 seconds 换算成年份: 10^18 seconds / (60 secon

1 Exaflop = 10^18 Flops

如果你的笔记本电脑每秒完成1 Flop,那么完成10^18 Flops就需要:

(10^18 Flops) / (1 Flop/second) = 10^18 seconds

换算成年份:

10^18 seconds / (60 seconds/minute * 60 minutes/hour * 24 hours/day * 365 days/year) ≈ 31.7亿年

换句话说,一台每秒完成1 Flop的笔记本电脑,要花费大约31.7亿年的时间才能完成1 Exaflop的运算量。

所以1 Exaflop的庞大程度,可以说是一鸣惊人了。

4.推理微服务NIM:AI部署的新标杆

NVIDIA推出的AI推理微服务NIM成为世界AI的入口,为用户提供了部署和管理AI模型的平台。通过NIM,用户可以体验各种AI模型和应用,同时保留对知识产权的完全控制。黄仁勋表示,NVIDIA正在帮助企业和应用程序对模型进行微调或定制。

NIM可以使开发者能够将部署时间从几周缩短至几分钟,为语言、语音、药物发现等领域提供行业标准API,让开发者能够利用在自己基础设施中的专有数据快速构建AI应用,而不必依赖云服务器。

英伟达希望通过这些服务吸引购买英伟达服务器的客户注册英伟达企业版NVIDIA AI Enterprise 5.0,每个GPU每年收取4500美元的费用。企业可以选择在亚马逊云科技(AWS)、谷歌云、Azure、Oracle Cloud Infrastructure等云平台上部署这些微服务。

相较于新AI模型的初始训练,推理过程所需的计算能力较少。对于那些希望自行运行AI模型,而不是购买AI结果作为服务的企业来说,NIM将成为一款不错的选择。

“在我原本调用OpenAI的代码中,我只需替换一行代码,将其指向从英伟达获取的NIM即可。”一位开发者表示。

5.英伟达的愿景:引领新工业革命

黄仁勋的野心究竟有多大?在他看来,英伟达站在计算科学和物理等一切科学的交叉点,成为新工业革命的引擎。这是英伟达的使命,也是他心中英伟达的定位。

正如黄仁勋在开场白中说的那样,我们见证了计算机技术的革命以及人工智能的崛起。从过去到现在,我们经历了无数里程碑,包括首台DGX-1超级计算机的诞生、CUDA的出现以及生成式AI的发展。

如今,皮衣教主黄仁勋已经在生成式AI领域拔得头筹,带领着下一场工业革命的开启。

相关阅读:

 

性能可提升30倍,英伟达发布全新构架,今年上市,一套或售20万美元

3月19日消息,当地时间周一,英伟达在美国加州圣何塞(San Jose)举办的全球开发者大会上,隆重发布了最新一代人工智能专用GPU芯片以及运行人工智能模型的软件,意图进一步巩固其作为人工智能领域首选供应商的地位。

英伟达推出的新一代人工智能GPU架构命名为Blackwell,首款基于该架构的GB200芯片预计将在今年晚些时候推出。

在处理大型语言模型(LLM)推理工作负载时,GB200性能可提升30倍,同时在成本和能效上也有显著提升。英伟达称,与H100相比,“GB200能将成本和能耗降低至多达25倍”。

尽管当前市面上如Hopper架构的H100芯片等旧款产品依然供不应求,英伟达仍通过推出更高性能的新芯片来吸引客户,鼓励他们持续下单。

自2022年底,随着OpenAI推出聊天机器人ChatGPT,掀起了一股人工智能热潮,英伟达股价随之飙升五倍,营业收入也增长了逾两倍。英伟达的高性能GPU对于训练和运行大型人工智能模型至关重要。像微软、Meta这样的科技巨头,都斥资几十亿美元购买这种芯片。英伟达首席执行官黄仁勋在大会上表示:“Hopper架构固然出色,但我们追求的是更加强大的GPU。”

英伟达股价在周一盘后交易中微跌超过1%。

为了让客户在面对日益增多的竞争产品时更倾向于选择英伟达芯片,公司还推出了一款名为NIM的付费软件,使得部署人工智能变得更加简单。

英伟达高管表示,公司正从单一芯片供应商转型为类似于微软或苹果那样的平台提供者,其他公司可以在其平台上开发软件。

黄仁勋坦言:“Blackwell不仅仅是一款芯片,它代表的是一个平台。”

英伟达企业计算部门副总裁马努维尔·达斯(Manuvir Das)在接受采访时表示:“最畅销的商业产品仍是GPU,软件则是为了帮助用户以不同的方式使用GPU。”他补充道:“当然,我们依然在致力于产品的创新。但现在,我们真正实现了转变,已经发展出了自己的商业软件业务。”

责任编辑:网络
首页 | 资讯 | 财经 | 国内 | 专栏 | 生活 | 关注 | 图库 | 艺术 | 关于 | 名人堂

Copyright © 2014-2016 中国经济报道网 版权所有 京ICP备16067457号

电脑版 | | 移动版

Ctrl+D 将本页面保存为书签,全面了解最新资讯,方便快捷。