首页 > 文档云仓 > 行业研究 | 企业研究 > 信息产业|互联网 > 计算机行业AIGC算力时代系列报告:ChatGPT芯片算力,研究框架

计算机行业AIGC算力时代系列报告:ChatGPT芯片算力,研究框架(29页).pdf
  强生   2023-02-19   47596 举报与投诉
 强生   2023-02-19  4.7万

【报告导读】ChatGPT热潮席卷全球。ChatGPT(Chat Generative Pre-trained Transformer)是由OpenAI于2022年12月推出的对话AI模型, 一经面世便受到广泛关注,其2023年1月月活跃用户达到1亿,是史上月活用户增长最快的消费者应用。在问答模式的基础上 ChatGPT可以进行推理、编写代码、文本创作等等,这样的特殊优势和用户体验使得应用场景流量大幅增加。

AIGC带来的全新场景+原场景流量大幅提高。① 技术原理角度:ChatGPT基于Transformer技术,随着模型不断迭代, 层数也越来越多,对算力的需求也就越来越大;② 运行条件角度:ChatGPT完美运行的三个条件:训练数据+模型算法+算力, 需要在基础模型上进行大规模预训练,存储知识的能力来源于1750亿参数,需要大量算力。

对高端芯片的需求将拉动芯片均价。采购一片英伟达顶级GPU成本为8万元,GPU服务器成本通常超过40万元。支撑 ChatGPT的算力基础设施至少需要上万颗英伟达GPU A100,高端芯片需求的快速增加会进一步拉高芯片均价。

ChatGPT的“背后英雄”:芯片,看好国内GPU、CPU、FPGA、AI芯片及光模块产业链 1)GPU:支撑强大算力需求。由于具备并行计算能力,可兼容训练和推理,目前GPU被广泛应用于加速芯片。看好海光信息、 景嘉微; 2)CPU:可用于推理/预测。AI服务器利用CPU与加速芯片的组合可以满足高吞吐量互联的需求。看好龙芯中科、中国长城; 3)FPGA:可通过深度学习+分布集群数据传输赋能大模型。FPGA具备灵活性高、开发周期短、低延时、并行计算等优势。看 好安路科技、复旦微电、紫光国微; 4)ASIC:极致性能和功耗表现。AI ASIC芯片通常针对AI应用专门设计了特定架构,在功耗、可靠性和集成度上具有优势。看好 寒武纪、澜起科技; 5)光模块:容易被忽略的算力瓶颈。伴随数据传输量的增长,光模块作为数据中心内设备互联的载体,需求量随之增长。看好 德科立、天孚通信、中际旭创。


分享

格式

pdf

大小

1.50MB

青云豆

1

下载

收藏(125)

格式

pdf

大小

1.50MB

青云豆

1

下载
125
举报与投诉
确认提交
取消
维权须知

如果您觉得此文档侵犯了您的合法权利,请填写以上内容并提交。请您务必阅读并参照网站底部的“用户协议”、“隐私协议”中关于侵权问题的处理方法,积极维护您的权益,我们将尽快处理以维护您的合法权益。

温馨提示

您的青云豆余额不足,请充值后再下载!

去充值 ×

下载支付确认

计算机行业AIGC算力时代系列报告:ChatGPT芯片算力,研究框架.pdf

所需支付青云豆:1

确认支付
取消支付
分享
菜单 登录/注册