微軟崔宏禹:GPT-4以后,不建議再用微調(diào)進行特定領(lǐng)域的模型適配_全球今亮點

來源:DoNews快訊


(資料圖片僅供參考)

5月26日,微軟(中國)有限公司創(chuàng)新技術(shù)總經(jīng)理崔宏禹在上海舉行的向星力·未來數(shù)據(jù)技術(shù)峰會(FDTC)上回應(yīng)了當下一個廣泛被提及的問題,即如何用自己的數(shù)據(jù)訓(xùn)練自己的模型,將私域數(shù)據(jù)與GPT的能力相融合。崔宏禹解答道,“一般來說,我們推薦兩種方式。一種是微調(diào)(在不改動預(yù)訓(xùn)練模型的基礎(chǔ)上,在模型頂層增加分類器或一些特征映射,使微調(diào)后的模型能夠更貼合實際使用場景),但在GPT-4以后,我們已經(jīng)不建議或者已經(jīng)不讓大家使用微調(diào)的方式了。我們更推薦的是嵌入(將一個內(nèi)容實體映射為低維向量,從而可以獲得內(nèi)容之間的相似度)的方式?!?/p>

標簽:

推薦

財富更多》

動態(tài)更多》

熱點