說到最近網(wǎng)上最火的科技名詞，非“ChatGPT”莫屬，有關(guān)ChatGPT話題頻頻登榜熱搜。

ChatGPT的技術(shù)底座是“大型語言模型（Large Language Models）”，簡稱LLMs。近幾年隨著LLMs的不斷發(fā)展，對自然語言處理（NLP）研究的業(yè)務(wù)落地帶來了質(zhì)的飛躍。從Transformer的提出，到BERT的廣泛使用，再到GPT的迭代發(fā)展，LLMs對算力和數(shù)據(jù)的需求呈現(xiàn)爆發(fā)式增長。

相關(guān)數(shù)據(jù)顯示，日常ChatGPT官網(wǎng)1月總訪問量達(dá)到6.16億次——按照運(yùn)營階段（以13億模型參數(shù)為例），參考每次訪問0.01美元估算，單月推理運(yùn)營成本達(dá)到616萬美元，合算算力約4.2E23 FLOPs。

目前，OpenAI訓(xùn)練ChatGPT使用的計算集群的峰值性能已經(jīng)可以排進(jìn)同期（2020.05）超級計算機(jī)Top500榜單的前5名，達(dá)到60PFlops的水平（作為對比，“神威·太湖之光”整機(jī)峰值算力為120PFlops）。

據(jù)OpenAI測算，自2012年以來，全球頭部AI模型訓(xùn)練算力需求3-4個月翻一番，每年頭部訓(xùn)練模型所需算力增長幅度高達(dá)10倍，即使不考慮摩爾定律的減緩，也遠(yuǎn)超計算機(jī)硬件性能增長速度，領(lǐng)域定制化和異構(gòu)計算技術(shù)逐漸成為智能計算硬件研發(fā)的熱點(diǎn)。

隨著AI大模型進(jìn)入超級計算時代，從“大煉模型”到 “煉大模型”，算力基礎(chǔ)將成為邁向更高通用人工智能的門檻。隨著人工智能業(yè)務(wù)場景的成熟落地，傳統(tǒng)數(shù)據(jù)中心、算力中心的智能化升級成為迫切需求，而高性能計算（HPC）與人工智能的系統(tǒng)化結(jié)合將成為升級的關(guān)鍵。

隨著“十四五規(guī)劃”、“東數(shù)西算”等戰(zhàn)略政策的發(fā)布，國產(chǎn)算力新基建的快速發(fā)展將為高性能計算和人工智能的融合提供強(qiáng)大的算力支撐，為盡快補(bǔ)齊數(shù)字經(jīng)濟(jì)領(lǐng)域發(fā)展短板創(chuàng)造條件。

高算力、低耗能、強(qiáng)自主可控的系統(tǒng)級解決方案是智算中心建設(shè)的關(guān)鍵。太初元碁Tecorigin作為智能計算系統(tǒng)解決方案提供商，致力于國產(chǎn)智算系統(tǒng)的研發(fā)與優(yōu)化，針對大規(guī)模人工智能應(yīng)用的特性，從核心計算單元到網(wǎng)絡(luò)通信再到存儲系統(tǒng)等形成了完整的技術(shù)實(shí)現(xiàn)鏈條。依托于豐富的產(chǎn)品體系和龐大的技術(shù)團(tuán)隊(duì)，太初元碁Tecorigin持續(xù)在智能計算領(lǐng)域發(fā)力，通過國產(chǎn)異構(gòu)平臺的成功推廣與廣泛落地，逐步形成國產(chǎn)算力網(wǎng)，為人工智能業(yè)務(wù)落地提供有力支撐。

立足當(dāng)下，展望未來，我們將持續(xù)肩負(fù)著“鑄造中國算力基石，構(gòu)建未來智能世界”的使命，不斷夯實(shí)國產(chǎn)算力基礎(chǔ)，大力發(fā)展人工智能計算技術(shù)，共創(chuàng)數(shù)智融合的新時代。