向量數(shù)據(jù)庫(kù)這杯“啤酒”與“泡沫”

來(lái)源:商業(yè)新知網(wǎng)

就像啤酒注定要有泡沫,每一場(chǎng)淘金熱都不缺被捧上了時(shí)代風(fēng)口的人。


(資料圖片僅供參考)

大模型這一波熱潮中,向量數(shù)據(jù)庫(kù)就是那個(gè)幸運(yùn)兒。

一方面,技術(shù)層面并沒有太大突破。向量數(shù)據(jù)庫(kù)并不是一種特別新的數(shù)據(jù)庫(kù)技術(shù),在AI領(lǐng)域已經(jīng)應(yīng)用了七八年,谷歌在2015年就宣布使用RankBrain語(yǔ)義檢索來(lái)處理搜索任務(wù)。相比N家的卡、液冷的算、全光的網(wǎng)、升級(jí)的存,向量數(shù)據(jù)庫(kù)在技術(shù)方面并沒有特別亮眼的突破。

而另一方面,向量數(shù)據(jù)庫(kù)的投資熱潮又特別旺盛。在上半年成了創(chuàng)業(yè)公司、云計(jì)算廠商、老牌數(shù)據(jù)庫(kù)公司,以及投資人們“群起而攻之”的風(fēng)口,Pinecone、Chroma 和 Weviate 等向量數(shù)據(jù)庫(kù)初創(chuàng)公司都獲得了融資,有的融資額高達(dá)上億美元。這在全球經(jīng)濟(jì)不明朗的投資形勢(shì)下,還是非常亮眼的成績(jī)。

不同于GPU卡那樣短期內(nèi)需求堅(jiān)挺、供不應(yīng)求,加上摩爾定律的約束,即使有泡沫,也是鐵做的。也不同于存算網(wǎng)這類“新基建”,長(zhǎng)期投入的戰(zhàn)略價(jià)值,得到了廟堂和民間的一致重視。

向量數(shù)據(jù)庫(kù),更多是作為一種AI基礎(chǔ)技術(shù)和產(chǎn)品,開始為大眾所知曉。

僅憑這樣,就在投資市場(chǎng)上一飛沖天,多少有點(diǎn)讓人不安。加上最近,大訓(xùn)模型的熱度開始降溫,ChatGPT訪問量下降,更多大模型已經(jīng)到地里田間礦井“干活兒”去了。

不禁讓人好奇,隨著大模型的風(fēng)口下沉,向量數(shù)據(jù)庫(kù)的投資概念還能飛多久,會(huì)不會(huì)倏忽而來(lái),倏忽而去,留下喝了“一嘴泡沫”的公司和投資人,在風(fēng)中凌亂呢?

我們就來(lái)好好品一品,這一杯啤酒和泡沫。

技術(shù)的啤酒

訓(xùn)大模型、用大模型,離不開一系列AI基礎(chǔ)設(shè)施,所以,作為基礎(chǔ)設(shè)施之一的向量數(shù)據(jù)庫(kù),確實(shí)有點(diǎn)東西。引入向量數(shù)據(jù)庫(kù),是能喝到真材實(shí)料的“啤酒”的。

這就有必要先說說這個(gè)技術(shù)本身。

數(shù)據(jù)庫(kù)不用多說,是必不可少的IT基礎(chǔ)設(shè)施,用于存儲(chǔ)和查詢各種數(shù)據(jù),可以看作是數(shù)據(jù)的“硬盤”。那么,向量數(shù)據(jù)庫(kù)就是更適合AI體質(zhì)的“硬盤”,有幾個(gè)特質(zhì)來(lái)說明這一點(diǎn):

1.必要性。

向量數(shù)據(jù)庫(kù),顧名思義就是專門用于存儲(chǔ)和管理向量數(shù)據(jù)。作為一種數(shù)據(jù)結(jié)構(gòu),每個(gè)向量都包含多個(gè)維度,每個(gè)維度代表不同的特征或?qū)傩?,比如圖像的顏色、文本詞匯的出現(xiàn)頻率等。而AI算法,要從圖像、音頻和文本等海量的非結(jié)構(gòu)化數(shù)據(jù)中學(xué)習(xí),提取出以向量為表示形式的“特征”,以便模型能夠理解和處理。因此,向量數(shù)據(jù)庫(kù)比傳統(tǒng)的關(guān)系型數(shù)據(jù)庫(kù),更適合AI 應(yīng)用。

2. 高效率。

每個(gè)元素都有一個(gè)索引,便于訪問或修改數(shù)值?;诖耍蛄繑?shù)據(jù)庫(kù)可以通過將分組和索引,快速找到與給定查詢最接近的嵌入,實(shí)現(xiàn)高效的相似性搜索,同時(shí)減少存儲(chǔ)和計(jì)算成本。

相比傳統(tǒng)單機(jī)插件式數(shù)據(jù)庫(kù),向量數(shù)據(jù)庫(kù)的檢索規(guī)模可以提升十倍,支持百萬(wàn)級(jí)每秒查詢(QPS)的峰值能力,同時(shí)延遲控制在毫秒級(jí)。

想象一下,如果沒有高效的搜索技術(shù)支持,一個(gè)大語(yǔ)言模型動(dòng)輒數(shù)十億、上百億參數(shù),只能處理有限數(shù)量的輸入數(shù)據(jù),無(wú)法搜索更大的數(shù)據(jù)庫(kù),那么在AIGC、搜索、廣告推薦算法等任務(wù)的性能表現(xiàn)就會(huì)受限。

一個(gè)公開數(shù)據(jù)是,通過使用云向量數(shù)據(jù)庫(kù),QQ音樂人均聽歌時(shí)長(zhǎng)提升3.2%;騰訊視頻有效曝光人均時(shí)長(zhǎng)提升1.74%;QQ瀏覽器成本降低37.9%,這些數(shù)據(jù)的變化就在于檢索效率、運(yùn)行穩(wěn)定性、運(yùn)營(yíng)效率、推薦算法等有了較大的提升。

3.需求大。

隨著產(chǎn)業(yè)智能化的加速,以及大模型和其他 AI 應(yīng)用的爆發(fā),各行各業(yè)的AI用例不斷增多,由此帶來(lái)了洶涌的數(shù)據(jù)洪潮和存算任務(wù),向量數(shù)據(jù)庫(kù)嵌入向量的長(zhǎng)度不受限制,具有良好的擴(kuò)展性,可以根據(jù)AI用例和模型而變化,更好地處理大規(guī)模數(shù)據(jù)集。

而且,向量數(shù)據(jù)庫(kù)可以拓展大模型的時(shí)間邊界和空間邊界,讓大模型在訓(xùn)練完成后,也可以訪問向量數(shù)據(jù)庫(kù)的最新信息,了解最近發(fā)生的事情。

總的來(lái)說,向量數(shù)據(jù)庫(kù)就是更適合AI體質(zhì)的數(shù)據(jù)庫(kù),在AI任務(wù)上效果拔群,在機(jī)器學(xué)習(xí)領(lǐng)域中日益流行。

那么問題來(lái)了,一些在AI領(lǐng)域積淀已久的科技大廠,如谷歌、微軟、Mate以及BAT等大廠,都有向量數(shù)據(jù)庫(kù)的技術(shù)積累,也都可以向外輸出相關(guān)能力和產(chǎn)品。此外,一些基于開源技術(shù)的數(shù)據(jù)庫(kù)創(chuàng)業(yè)公司,如Pinecone、Weaviate、Odrant、Chroma近年來(lái)打開了市場(chǎng)知名度。

可以說,市場(chǎng)上并不缺乏向量數(shù)據(jù)庫(kù)的產(chǎn)品和解決方案。那么2023年,這杯技術(shù)啤酒,是怎么咕嘟咕嘟冒出泡沫的呢?

浪潮之巔的泡沫

向量數(shù)據(jù)庫(kù)的市場(chǎng)現(xiàn)狀,說是“從0到1”,并不為過。

首先,大眾市場(chǎng)的認(rèn)知度才剛剛打開。

此前,向量數(shù)據(jù)庫(kù)更多是AI企業(yè)在使用,今年才開始為大眾所熟知,這離不開一些AI相關(guān)企業(yè)的推波助瀾。今年 3月的 NVIDIA GTC 大會(huì)上,黃仁勛首次提及向量數(shù)據(jù)庫(kù),強(qiáng)調(diào)向量數(shù)據(jù)庫(kù)對(duì)大語(yǔ)言模型的重要性。

不是所有企業(yè)都有能力自建大模型所需要的基礎(chǔ)設(shè)施,通過MaaS(模型即服務(wù))業(yè)務(wù)來(lái)訓(xùn)練應(yīng)用大模型是更靈活的選擇,這就要求云廠商提供全?;A(chǔ)設(shè)施。

百度、京東、騰訊、華為等,都在自家的大模型完整基礎(chǔ)設(shè)施中,提到了向量數(shù)據(jù)庫(kù)。目前,云廠商的MaaS業(yè)務(wù)才剛剛開始走向市場(chǎng),大模型的產(chǎn)業(yè)落地不是一蹴而就的,向量數(shù)據(jù)庫(kù)的接受度和規(guī)模究竟有多大,還是個(gè)未知數(shù)。

第二,向量數(shù)據(jù)庫(kù)的技術(shù),還沒經(jīng)歷“卷生卷死”的迭代。

Pinecone是閉源的領(lǐng)跑者,其他競(jìng)爭(zhēng)者要么是開源的,比如Weviate,要么是巨頭,包括頭部云廠商和甲骨文、IBM等老牌數(shù)據(jù)庫(kù)廠商,開始構(gòu)建AI數(shù)據(jù)庫(kù)的產(chǎn)品和解決方案。

大廠扎堆競(jìng)技,這意味著,如果技術(shù)沒有大的突破,就會(huì)陷入高密度的同質(zhì)化競(jìng)爭(zhēng),從藍(lán)??焖龠M(jìn)入紅海。而如果技術(shù)有顛覆式變革,很多技術(shù)壁壘不高、客戶認(rèn)知不強(qiáng)的新入局創(chuàng)業(yè)者,很難跟開源生態(tài)或技術(shù)巨頭PK,容易被大浪淘沙。

最后,向量數(shù)據(jù)庫(kù)的成本,還沒有降到“可規(guī)模復(fù)制”的程度。

無(wú)論是自建向量數(shù)據(jù)庫(kù),還是通過MaaS服務(wù)接入,都還達(dá)不到“付費(fèi)可用”的程度。一般來(lái)說,企業(yè)需要先將非結(jié)構(gòu)化的私密數(shù)據(jù)進(jìn)行向量化,產(chǎn)生一個(gè)向量的矩陣,再存儲(chǔ)到向量數(shù)據(jù)庫(kù)里,來(lái)供大模型學(xué)習(xí)和檢索。這個(gè)過程涉及到大量的工程化,會(huì)耗費(fèi)企業(yè)許多開發(fā)人員、時(shí)間成本。

這就需要云廠商或數(shù)據(jù)庫(kù)廠商,提供全鏈路的工具,來(lái)幫助企業(yè)完成整個(gè)數(shù)據(jù)向量化、大模型接入的工作,以及減少后續(xù)運(yùn)維的難度。比如Pinecone就憑借良好的開箱即用的產(chǎn)品體驗(yàn),獲得了非常大的增長(zhǎng),B輪估值達(dá)到7.5億美元。

谷歌云、騰訊云、京東云等也都基于內(nèi)部應(yīng)用的多年積累,推出了一系列面向外部的工具、框架和應(yīng)用。但只是邁出了從無(wú)到有的第一步,真正成熟還需要讓各家“卷起來(lái)”。

可以看到,現(xiàn)在這個(gè)階段,熱捧向量數(shù)據(jù)庫(kù),確實(shí)有AIGC、大模型、云服務(wù)等多方面的現(xiàn)實(shí)需求,但從“概念普及”到“真正可用”之間,還有不短的距離。這之間的地帶,就是泡沫生長(zhǎng)的地方。

江湖路遠(yuǎn),風(fēng)高浪急,沒有想清楚的創(chuàng)業(yè)公司或行業(yè)用戶,還是別貿(mào)然“帶資進(jìn)組”了。

啜飲時(shí)代的精釀

如果你是數(shù)據(jù)庫(kù)廠商,或者是著急布局大模型和AI應(yīng)用的企業(yè),希望早點(diǎn)將啤酒喝到嘴里,怎么辦呢?

篤定遠(yuǎn)一點(diǎn)的未來(lái),有些賽道的泡沫比例是相對(duì)少的,需求格外旺盛。

市場(chǎng)方面,國(guó)產(chǎn)化替代是不錯(cuò)的選擇。

科技博弈背景下,加上我國(guó)數(shù)據(jù)庫(kù)產(chǎn)業(yè)的日益繁榮和技術(shù)突破,金融、電信、能源、交通等關(guān)鍵基礎(chǔ)行業(yè)的企業(yè),在數(shù)據(jù)庫(kù)選型時(shí),都開始傾向于國(guó)產(chǎn),以保障數(shù)據(jù)的穩(wěn)定性和安全性。

國(guó)外廠商在向量數(shù)據(jù)庫(kù)上有著更早的探索和積累,國(guó)產(chǎn)數(shù)據(jù)庫(kù)要補(bǔ)齊短板是需要時(shí)間的。

目前,BATH這類實(shí)力較強(qiáng)的國(guó)內(nèi)科技企業(yè),沉淀了向量數(shù)據(jù)庫(kù)的核心自主技術(shù),與其合作研發(fā)和定制化開發(fā),針對(duì)某些具體場(chǎng)景,提供特定優(yōu)化的向量數(shù)據(jù)庫(kù)產(chǎn)品,加入國(guó)產(chǎn)化替代的賽道是成本更低、風(fēng)險(xiǎn)更可控、市場(chǎng)需求明確的選擇。

策略方面,加入云生態(tài)不要獨(dú)行。

鑒于向量數(shù)據(jù)庫(kù)的商業(yè)化前景還不明朗,有業(yè)內(nèi)人士表示,與其投資新的向量數(shù)據(jù)庫(kù)項(xiàng)目,還不如關(guān)注現(xiàn)有數(shù)據(jù)庫(kù)中,有哪些加上向量引擎可以變得更加強(qiáng)大。

云數(shù)據(jù)庫(kù)就是其中之一,上云用數(shù)賦智是大勢(shì)所趨,很多政企客戶往往會(huì)選擇公有云或行業(yè)云來(lái)滿足其業(yè)務(wù)需求,將數(shù)據(jù)遷移到云上,對(duì)云數(shù)據(jù)庫(kù)的關(guān)注度和接受度上升。

騰訊云、華為云等大型云廠商,具有較高的品牌認(rèn)知度和市場(chǎng)接受度,具有云原生、AI原生的技術(shù)棧和產(chǎn)品體系,經(jīng)歷了海量場(chǎng)景的淬煉和深度優(yōu)化,和這類云生態(tài)一起掘金向量數(shù)據(jù)庫(kù),是更穩(wěn)妥的方式。

和AI、大模型一樣,向量數(shù)據(jù)庫(kù)要品出味道,離不開時(shí)間的窖藏和醞釀。是在大訓(xùn)模型的熱度下降后,像泡沫一樣湮滅,還是作為啤酒精釀沉淀下去,等待成為下一代數(shù)字基礎(chǔ)設(shè)施的剛需,被行業(yè)客戶所啜飲,是留給數(shù)據(jù)庫(kù)玩家和買家的選擇題。

標(biāo)簽:

推薦

財(cái)富更多》

動(dòng)態(tài)更多》

熱點(diǎn)