賺超3億美元!運行ChatGPT需要30000塊英偉達GPU!
2023-03-07 21:09:29|
來源:游俠網(wǎng) 作者:
(資料圖片僅供參考)
市場調查機構TrendForce集邦咨詢最新報告指出如果以英偉達A100顯卡的處理能力計算,運行ChatGPT將需要使用到30000塊英偉達GPU。
目前英偉達A100顯卡的售價在10000-15000美元之間,該售價取決于OpenAI需要多少顯卡,以及英偉達是否會為AI公司提供訂單折扣。TrendForce預估英偉達可以賺取超過3億美元。
據(jù)英偉達官方消息,A100采用 NVIDIA Ampere 架構,是NVIDIA數(shù)據(jù)中心平臺的引擎。性能比上一代產(chǎn)品提升高達20倍,并可劃分為七個GPU實例,以根據(jù)變化的需求進行動態(tài)調整。A100提供40GB和80GB顯存兩種版本,A100 80GB將GPU顯存增加了一倍,并提供超快速的顯存帶寬(每秒超過 2 萬億字節(jié) [TB/s]),可處理超大型模型和數(shù)據(jù)集。
標簽: