ChatGPT有多烧钱? 生成式AI成本是多少?
ChatGPT有多烧钱? 生成式AI成本是多少?据了解,所谓“大模型”,通常是在无标注的大数据集上,采用自监督学习的方法进行训练。
2 月 19 日消息,ChatGPT 风靡全球后,科技巨头们纷纷入局,生成式 AI 其背后以大模型为基础的人工智能成为业界投入的方向。
记者了解到,所谓“大模型”,通常是在无标注的大数据集上,采用自监督学习的方法进行训练。之后在其他场景的应用中,开发者只需要对模型进行微调,或采用少量数据进行二次训练,就可以满足新应用场景的需要。
然而,训练通用大模型非常“烧钱”。据国盛证券报告《ChatGPT 需要多少算力》估算,GPT-3 训练一次的成本约为 140 万美元,对于一些更大的 LLM(大型语言模型),训练成本介于 200 万美元至 1200 万美元之间。以 ChatGPT 在 1 月的独立访客平均数 1300 万计算,其对应芯片需求为 3 万多片英伟达 A100 GPU,初始投入成本约为 8 亿美元,每日电费在 5 万美元左右。
如果将当前的 ChatGPT 部署到谷歌进行的每次搜索中,需要 512820.51 台 A100 HGX 服务器和总共 4102568 个 A100 GPU,这些服务器和网络的总成本仅资本支出就超过 1000 亿美元。
国盛证券认为,在公有云上,对于以谷歌等全球科技大企业而言,百万至千万美元级别的训练成本并不便宜,但尚在可接受范围内、并非昂贵。
标签:
Ad
机构纵论银行股下半年投资策略:价值重估行情或刚刚开启
股市要闻
1年前
不感兴趣
前妻减持概念股带崩AI,昆仑万维跌到刷屏,一季度公募大举进场,较上年底持股增幅253%
股市要闻
1年前
不感兴趣
时隔一年,证监会公布第八批31家券商白名单,数家头部未入围,进入白名单优势有哪些?
股市要闻
1年前
不感兴趣
A股失守3200点!股民痛失“过节经费”,节后怎么安排?
股市要闻
1年前
不感兴趣
广发策略:若中美关系缓和,哪些方向潜在受益?
股市要闻
1年前
不感兴趣
A股再现天价离婚!实控人前妻分钱不分权,射频龙头此前曾遭多次减持
股市要闻
1年前
不感兴趣
A股再现减持骚操作!前妻减持22亿!一半收益借给前夫公司,AI牛股遭到市场暴击,网友调侃:尊师贾跃亭?
股市要闻
1年前
不感兴趣
崩了:AI“死了”!刚刚,A股跌上热搜!股民:含泪吃粽子叶!
股市要闻
1年前
不感兴趣
A股再现天价离婚!女方分走34亿,卓胜微回应“变相减持”质疑
股市要闻
1年前
不感兴趣
刚刚,央行重磅出手!突发利空,应声暴跌!看呆了:退市股20CM涨停!
股市要闻
1年前
不感兴趣
暂无更多
正在努力加载