英特爾Sachin Katti:大模型在云端訓(xùn)練的成熟,將促進(jìn)AI快速向邊緣遷移

來(lái)源:通信世界全媒體


(資料圖片僅供參考)

(CWW)隨著邊緣計(jì)算與大模型技術(shù)的不斷成熟,二者可以很好地融合在一起為行業(yè)應(yīng)用中碰撞出新的“火花”。

近日,在2023英特爾網(wǎng)絡(luò)與邊緣產(chǎn)業(yè)高層峰會(huì)上,英特爾公司高級(jí)副總裁兼網(wǎng)絡(luò)與邊緣事業(yè)部總經(jīng)理Sachin Katti和英特爾中國(guó)區(qū)網(wǎng)絡(luò)與邊緣事業(yè)部首席技術(shù)官、英特爾高級(jí)首席AI工程師張宇博士接受了通信世界全媒體記者的采訪,分享了英特爾在邊緣計(jì)算和大模型方面的戰(zhàn)略和產(chǎn)品,以及如何推動(dòng)邊緣智能和大模型在行業(yè)中的落地。

如今邊緣計(jì)算市場(chǎng)已經(jīng)在快速增長(zhǎng)過(guò)程當(dāng)中,這對(duì)英特爾以及對(duì)整個(gè)英特爾生態(tài)系統(tǒng),以及整個(gè)中國(guó)市場(chǎng)來(lái)說(shuō)都提供了巨大的機(jī)遇。

“英特爾的邊緣計(jì)算策略是提供大量的硬件選擇,比如說(shuō)CPU、加速器、GPU等,達(dá)到一流的性能。同時(shí)在軟件方面,英特爾希望在應(yīng)用的時(shí)候可以降低復(fù)雜性。”Sachin Katti表示:“我們要幫助客戶,為他們提供一些選擇,同時(shí)通過(guò)我們的軟件解決方案可以使他們的運(yùn)營(yíng)更加簡(jiǎn)化、更加精簡(jiǎn),而且我們要跟整個(gè)的生態(tài)系統(tǒng)的合作伙伴一起合作?!?/p>

隨著大模型在云端訓(xùn)練的成熟,AI就會(huì)快速向邊緣進(jìn)行遷移。Sachin Katti說(shuō):“我們看到AI正在快速地遷移到云端,在這當(dāng)中邊緣也會(huì)發(fā)揮更加重要的作用來(lái)推動(dòng)AI的部署。英特爾有很多邊緣設(shè)備都是在行業(yè)落地的。所以我們要做的是通過(guò)所提供的選擇,讓用戶可以更好的使用AI,把AI成果運(yùn)用在日常運(yùn)營(yíng)當(dāng)中。”

英特爾認(rèn)為大模型是AI未來(lái)的關(guān)鍵,它可以幫助解決一些人類面臨的重大挑戰(zhàn),比如醫(yī)療、教育、環(huán)境等?!拔覀兿嘈糯竽P涂梢宰孉I更加通用,更加普及,更加有價(jià)值。我們也相信大模型需要和行業(yè)結(jié)合起來(lái),要在行業(yè)里去做跟這個(gè)行業(yè)相關(guān)的,有針對(duì)性的大模型去解決行業(yè)里有針對(duì)性的一些問(wèn)題?!盨achin Katti表示。

為了支持大模型的訓(xùn)練和推理,英特爾提供了一系列的硬件和軟件解決方案。在硬件方面,英特爾發(fā)布了專門面向大模型訓(xùn)練的加速器Gaudi 2,它在第三方公開的運(yùn)用GPT 3這樣一個(gè)大模型的評(píng)測(cè)當(dāng)中表現(xiàn)出了非常好的性能。同時(shí),英特爾也提供了通用的CPU處理器以及專用的獨(dú)立顯卡等加速器來(lái)滿足人工智能模型推理對(duì)算力的要求。

在軟件方面,英特爾推出了OpenVINO的軟件工具,可以實(shí)現(xiàn)模型在不同平臺(tái)上的遷移和部署。在最新的OpenVINO版本里,英特爾增加了對(duì)大模型的支持,比如說(shuō)Stable Diffusion這樣一個(gè)文生圖的模型,已經(jīng)開始在一些行業(yè)里進(jìn)行使用了。

除了硬件和軟件之外,英特爾還提供了開放標(biāo)準(zhǔn)的網(wǎng)絡(luò)連接技術(shù),來(lái)把大量的GPU和加速器連接起來(lái),讓大模型的訓(xùn)練更加方便。英特爾還推出了IPU(Infrastructure Processing Unit),它能夠給用戶提供一個(gè)可靠、高速、低延遲的數(shù)據(jù)傳輸服務(wù)。

“我們要做到在中國(guó)為中國(guó),在本地客戶需求上做一些行業(yè)需要的相應(yīng)解決方案,利用總部所提供的軟件基礎(chǔ)來(lái)做這個(gè)方案,從工具、解決方案、生態(tài)等方面,來(lái)為本地行業(yè)客戶賦能?!睆堄畈┦勘硎?。英特爾希望通過(guò)軟硬件結(jié)合、開放標(biāo)準(zhǔn)、生態(tài)構(gòu)建等方式,為客戶提供整體解決方案,讓AI更加通用、普及、有價(jià)值。

標(biāo)簽:

推薦

財(cái)富更多》

動(dòng)態(tài)更多》

熱點(diǎn)