吴忠躺衫网络科技有限公司

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

向量數據庫:AI時代的下一個熱點

科技云報到 ? 來源:jf_60444065 ? 作者:jf_60444065 ? 2023-08-08 22:45 ? 次閱讀

科技云報道原創

最近,又一個概念火了——向量數據庫。

隨著大模型帶來的應用需求提升,4月以來多家海外知名向量數據庫創業企業傳出融資喜訊。

4月28日,向量數據庫平臺Pinecone宣布獲得1億美元(約7億元)B輪融資;

4月22日,向量數據庫平臺Weaviate宣布獲得5000萬美元(約3.5億元)B輪融資;

4月6日Chroma獲1800萬美元種子輪融資;

4月19日Qdrant獲750萬美元種子輪融資。

國內方面,星環科技、北交所云創數據等公司的股價連續異動,其中云創數據自底部以來股價已接近翻倍。

7月4日,騰訊云正式發布向量數據庫Tencent Cloud VectorDB,預計8月上線騰訊云官網。

一連串的市場動作,都展示了向量數據庫的爆紅。那么,什么是向量數據庫,到底有啥用?

什么是向量數據庫?

當你在網上看到一張壁紙,你想知道這是哪個國家的美景,卻不知道如何搜索;或者,在閱讀一篇文章時,你想深入了解這個話題,尋找更多的觀點和資料,卻不知道該如何精確描述。

這時,你需要的是一個能夠理解你的意圖,為你提供最相關的結果,讓你輕松找到你想要的信息的工具。

這就是向量數據庫(Vector Data Base),它就像一個超級大腦,幫助你解決這些問題。

所謂向量數據庫,是一種專門用于存儲、 管理、查詢、檢索向量的數據庫,可以把復雜的非結構化數據通過向量化,處理統一成多維空間里的坐標值。

目前,向量數據庫主要應用于人工智能機器學習、數據挖掘等領域。

具體來看,向量數據庫被廣泛地用于大模型訓練、推理和知識庫補充等場景:

●支撐訓練階段海量數據的分類、去重和清洗,給大模型的訓練降本增效;

●通過新數據的帶入,幫助大模型提升處理新問題的能力,突破預訓練帶來的知識時間限制,避免大模型出現幻覺;

●提供一種私有數據連接大模型的方式,解決私有數據注入大模型帶來的安全和隱私問題,加速大模型在產業落地。

簡而言之,向量數據庫可以解決大模型預訓練成本高、沒有“長期記憶”、知識更新不足、提示詞工程復雜等問題,突破大模型在時間和空間上的限制,加速大模型落地行業場景。

向量數據庫的發展

在向量數據庫出現之前,大家普遍使用的是關系型數據庫,如MySQL、Oracle等,這些數據庫以表格的形式存儲數據,適合存儲結構化數據。但對于非結構化數據,如文本、圖像、音頻等,處理起來就相對困難。

此外,關系型數據庫在處理大規模數據時,性能會下降,不適合大數據處理。這就像是在一個擁擠的圖書館里找一本書,你知道它在哪個書架上,但是找到它還需要花費大量的時間。

而向量數據庫和傳統數據庫的不同點在于,向量數據庫處理的是各種AI應用產生的非結構化數據,通過近似查進行模糊匹配,輸出的是概率上的提供相對最符合條件的答案,而非精確的標準答案。

舉例來說,傳統數據庫做圖片檢索可能是通過關鍵詞去搜索,向量數據庫是通過語義搜索圖片中相同或相近的向量并呈現結果。理論是向量之間的距離越接近,就說明語意越接近,效果也有最相似。

隨著時間的推移,向量數據庫開始在不同的領域和應用中不斷成長和進化。從20世紀90年代末到2000年初,美國國立衛生研究院和斯坦福大學都開始使用向量數據庫。

2005年到2015年間,隨著基因研究的深入和加速,向量數據庫也在并行中增長,像UniVec 數據庫這樣的工具在2017年就已經被廣泛使用,它們在基因序列比對、基因組注釋等領域發揮了重要作用。

2017年和2019年之間,向量數據庫開始爆炸式增長,它被應用于自然語言處理、計算機視覺推薦系統等領域。這些領域都需要處理大量和多樣化的數據,并從中提取有價值的信息。

向量數據庫通過使用諸如余弦相似度、歐氏距離、Jaccard 相似度等度量方法,以及諸如倒排索引、局部敏感哈希、乘積量化等索引技術,實現了高效和準確的向量檢索。

目前各大廠商使用的推薦系統、以圖搜圖、哼唱搜歌、問答機器人等應用,其內核都是向量數據庫。

在今年,向量數據庫開始被用于與大語言模型結合的應用。

它為大語言模型提供了一個外部知識庫,使得大語言模型可以根據用戶的查詢,在向量數據庫中檢索相關的數據,并根據數據的內容和語義來更新上下文,從而生成更相關和準確的文本。

這些大語言模型通常使用深度神經網絡來學習文本數據中隱含的規律和結構,并能夠生成流暢和連貫的文本。

向量數據庫 過使用諸如BERT、GPT等預訓練模型將文本轉換為向量,并使用諸如FAISS、Milvus等開源平臺來構建和管理向量數據庫。

總體而言,向量數據庫成功地解決了很多挑戰,并為人們帶來了很多價值。

針對傳統關系型數據庫難以處理的大規模數據、低時延高并發檢索、模糊匹配等領域,向量數據庫通過數據的向量化來滿足特定需求,尤其適用于人工智能領域。

讓行業大模型具備know how能力

隨著AI大模型的崛起,向量數據庫的爆紅也就不難理解。

一是,在現實世界里,非結構化數據是“主流”。根據Gartner的數據,非結構化數據占企業生成的新數據比例高達90%,并且增長速度比結構化數據快三倍。

而生成式AI大模型進一步帶來了非結構化數據的暴增,也相應推動了對向量數據庫的需求。

向量數據庫的一大優勢在于,能夠通過機器學習方法處理和理解來自不同源的多種模態信息,如文本、圖像、音頻和視頻等。

二是,越來越多的大模型從業者認為,所有的行業都值得被AI重新做一遍。

因此,建立在不同行業的垂直大模型,成為大家的切入點,而向量數據庫是行業大模型具備“行業knowhow”能力的必經之路。

這背后是,AI大模型的產生,需要經歷大量反復的訓練和調試。雖然通用AI大模型能回答一般性問題,但在垂直領域服務中,其知識深度、準確度和時效性有限。

而利用向量數據庫結合大模型和自有知識資產,可以構建垂直領域的AI能力。向量數據庫存儲和處理向量數據,提供高效的相似度搜索和檢索功能。

正如東北證券觀點,AI化的本質則是向量化,向量化計算成本高昂,海量的高維向量勢必需要專門的數據庫進行存儲和處理,向量數據庫應運而生。

向量數據庫在拓展AI全新應用場景的同時,也將對傳統數據庫產品形成替代,進而成為AI時代的Killer App。

目前,向量數據庫是一個亟待引爆的藍海市場。

據公開資料顯示,向量數據庫市場空間巨大,尚處于從0-1階段,預測到2030年,全球向量數據庫市場規模有望達到500億美元,國內向量數據庫市場規模有望超過600億人民幣。

未來隨著生成式AI大模型開發量和使用量的增長,向量數據庫的應用有望快速增長。

而國內外眾多玩家如傳統數據庫廠商、初創數據庫廠商、云廠商、跨界廠商等都已躍躍欲試,提前開始布局向量數據庫,做好了應對AI大模型時代的準備。

【關于科技云報道】

專注于原創的企業級內容行家——科技云報道。成立于2015年,是前沿企業級IT領域Top10媒體。獲工信部權威認可,可信云、全球云計算大會官方指定傳播媒體之一。深入原創報道云計算、大數據、人工智能、區塊鏈等領域。

審核編輯 黃宇

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    31536

    瀏覽量

    270356
  • 數據庫
    +關注

    關注

    7

    文章

    3848

    瀏覽量

    64690
  • 人工智能
    +關注

    關注

    1796

    文章

    47683

    瀏覽量

    240316
收藏 人收藏

    評論

    相關推薦

    英偉達發布Nemotron-CC大型AI訓練數據庫

    ,Nemotron-CC數據庫總計包含了驚人的6.3萬億Token,其中1.9萬億為精心合成的數據。這龐大的數據量不僅為
    的頭像 發表于 01-14 14:14 ?151次閱讀

    MySQL數據庫的安裝

    MySQL是開源免費的關系型數據庫管理系統,由瑞典MySQL AB 公司開發,目前屬于 Oracle 旗下公司。 MySQL 最流行的關系型數據庫管理系統,在 WEB 應用方面M
    的頭像 發表于 01-14 11:25 ?132次閱讀
    MySQL<b class='flag-5'>數據庫</b>的安裝

    數據庫是哪種數據庫類型?

    數據庫種部署在虛擬計算環境中的數據庫,它融合了云計算的彈性和可擴展性,為用戶提供高效、靈活的數據庫服務。云數據庫主要分為兩大類:關系型
    的頭像 發表于 01-07 10:22 ?143次閱讀

    數據庫數據恢復—Mysql數據庫表記錄丟失的數據恢復流程

    Mysql數據庫故障: Mysql數據庫表記錄丟失。 Mysql數據庫故障表現: 1、Mysql數據庫表中無任何數據或只有部分
    的頭像 發表于 12-16 11:05 ?224次閱讀
    <b class='flag-5'>數據庫</b><b class='flag-5'>數據</b>恢復—Mysql<b class='flag-5'>數據庫</b>表記錄丟失的<b class='flag-5'>數據</b>恢復流程

    AI時代數據庫技術發展論壇亮點前瞻

    可以看到,數據庫技術作為數字經濟的基石,在全球范圍內正經歷著由傳統架構向云原生、智能化的轉型。而AI技術的融入,使得數據庫系統在性能優化、自動化管理、智能決策等方面展現出前所未有的潛力。
    的頭像 發表于 12-12 11:31 ?310次閱讀

    數據庫數據恢復—MYSQL數據庫ibdata1文件損壞的數據恢復案例

    mysql數據庫故障: mysql數據庫文件ibdata1、MYI、MYD損壞。 故障表現:1、數據庫無法進行查詢等操作;2、使用mysqlcheck和myisamchk無法修復數據庫
    的頭像 發表于 12-09 11:05 ?224次閱讀

    數據庫數據恢復—通過拼接數據庫碎片恢復SQLserver數據庫

    運行在存儲上的SQLServer數據庫,有1000多個文件,大小幾十TB。數據庫每10天生成
    的頭像 發表于 10-31 13:21 ?337次閱讀
    <b class='flag-5'>數據庫</b><b class='flag-5'>數據</b>恢復—通過拼接<b class='flag-5'>數據庫</b>碎片恢復SQLserver<b class='flag-5'>數據庫</b>

    科技云報到:大模型時代下,向量數據庫的野望

    科技云報到:大模型時代下,向量數據庫的野望
    的頭像 發表于 10-14 17:18 ?300次閱讀

    數據庫數據恢復—SQL Server數據庫出現823錯誤的數據恢復案例

    SQL Server數據庫故障: SQL Server附加數據庫出現錯誤823,附加數據庫失敗。數據庫沒有備份,無法通過備份恢復數據庫
    的頭像 發表于 09-20 11:46 ?410次閱讀
    <b class='flag-5'>數據庫</b><b class='flag-5'>數據</b>恢復—SQL Server<b class='flag-5'>數據庫</b>出現823錯誤的<b class='flag-5'>數據</b>恢復案例

    數據庫數據恢復—SQL Server數據庫所在分區空間不足報錯的數據恢復案例

    Server數據庫故障: 存放SQL Server數據庫的D盤分區容量不足,管理員在E盤中生成了.ndf的文件并且將數據庫路徑指向E
    的頭像 發表于 07-10 13:54 ?579次閱讀

    數字化時代數據管理:多樣化數據庫選型指南

    挑戰。數據庫作為數據管理的核心技術,其選型對于系統至關重要。傳統的關系型數據庫(RDBMS)以其嚴格的ACID事務、優秀的致性和安全性在企業應用中占據了長久的統治地位。然而,隨著互聯
    的頭像 發表于 07-08 19:10 ?343次閱讀
    數字化<b class='flag-5'>時代</b>的<b class='flag-5'>數據</b>管理:多樣化<b class='flag-5'>數據庫</b>選型指南

    大模型卷價格,向量數據庫“卷”什么?

    被大模型“帶飛”這年,向量數據庫才剛剛寫下序言
    的頭像 發表于 05-23 09:24 ?1842次閱讀
    大模型卷價格,<b class='flag-5'>向量</b><b class='flag-5'>數據庫</b>“卷”什么?

    數據庫數據恢復—raid5陣列上層Sql Server數據庫數據恢復案例

    數據庫數據恢復環境: 5塊硬盤組建組RAID5陣列,劃分LUN供windows系統服務器使用。windows系統服務器內運行了Sql Server數據庫,存儲空間在操作系統層面劃分
    的頭像 發表于 05-08 11:43 ?580次閱讀
    <b class='flag-5'>數據庫</b><b class='flag-5'>數據</b>恢復—raid5陣列上層Sql Server<b class='flag-5'>數據庫</b><b class='flag-5'>數據</b>恢復案例

    搭載英偉達GPU,全球領先的向量數據庫公司Zilliz發布Milvus2.4向量數據庫

    在美國硅谷圣何塞召開的 NVIDIA GTC 大會上,全球領先的向量數據庫公司 Zilliz 發布了 Milvus 2.4 版本。這是款革命性的向量
    的頭像 發表于 04-01 14:33 ?533次閱讀
    搭載英偉達GPU,全球領先的<b class='flag-5'>向量</b><b class='flag-5'>數據庫</b>公司Zilliz發布Milvus2.4<b class='flag-5'>向量</b><b class='flag-5'>數據庫</b>

    與NVIDIA深度參與GTC,向量數據庫大廠Zilliz與全球頂尖開發者共迎AI變革時刻

    近日,備受關注的 NVIDIA GTC 已拉開序幕。來自世界各地的頂尖 AI 開發者齊聚美國加州圣何塞會議中心,共同探索行業未來,全球領先的向量數據庫公司 Zilliz 也不例外。作為去年被
    的頭像 發表于 03-26 11:01 ?459次閱讀
    百家乐U盘下载| 适合属虎做生意的名字| 大发888官方sscptdf88yb| 百家乐官网丽| 邯郸县| 大发888游戏平台3403| 百家乐优惠高的网址| 百家乐官网跟路技巧| 吉安市| 大赢家比分| 百家乐黏土筹码| 百家乐电投| 百家乐官网常用公式| 帝王百家乐官网新足球平台| 斗牛棋牌游戏| 百家乐群到shozo网| 百家乐娱乐城提款| 太阳城百家乐官网主页| 宝马会网上娱乐| 博彩资讯| 百家乐永利娱乐| 百家乐视频游365| 百家乐官网假在哪里| 皇冠娱乐网| 大发888官网充值| 深圳太阳城酒店| 菲律宾百家乐娱乐场| 百家乐优博娱乐城| 百家乐赌场作弊| 百家乐官网桌布无纺布| 百家乐官网博牌规例| 百家乐官网园蒙| 百家乐官网起步多少| 郁南县| 保单百家乐官网游戏机| 百家乐官网投注必胜法| 通海县| 百家乐官网的寻龙定穴| 百家乐官网梅花图标| 马鞍山市| 百家乐官网庄家出千内幕|