吴忠躺衫网络科技有限公司

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

為什么列存儲能夠大幅度提高數據的查詢性能

馬哥Linux運維 ? 來源:馬哥Linux運維 ? 2023-07-09 16:11 ? 次閱讀

傳統的存儲數據的方式是逐行存儲(Row Store),每一個Page存儲多行數據,而列存儲(Column Store)把數據表中的每一列單獨存儲在Page集合中,這意味著,Page集合中存儲的是某一列的數據,而不是一行的所有列的數據。

列存儲索引適合于數據倉庫中,主要執行大容量數據加載和只讀查詢,與傳統面向行的存儲方式相比,使用列存儲索引存儲可最多提高 10 倍查詢性能 ,與使用非壓縮數據大小相比,可提供多達 7 倍數據壓縮率 。列存儲索引使用用“批處理執行模式”的模式,這與行存儲使用的逐行數據讀取模式對比,性能大幅提升。

列存儲索引主要在下面三個特性上提升查詢的性能:

  • 行存儲使用逐行處理模式,每次只處理一行數據;而列存儲索引使用批處理模式,每次處理一批數據行。
  • 行存儲是逐行存儲(Row Store),每一個Page存儲多行數據,而列存儲(Column Store)把數據表中的每一列單獨存儲在Page集合中,這意味著,Page集合中存儲的是某一列的數據,而不是一行中所有列的數據。在讀取數據時,行存儲把一行的所有列都加載到內存,即使有些列根本不會用到;而列存儲只把需要的列加載到內存中,不需要的列不會被加載到內存中。
  • 列存儲索引自動對數據進行壓縮處理,由于同一行的數據具有很高的相似性,壓縮率很高,數據讀取更快速。

一般情況下,數據倉庫的查詢語句只會查詢少數幾個列的數據,其他列的數據不需要加載到內存中,這就使得列存儲特別適合用于數據倉庫中。

01、列存儲的特點

為什么列存儲能夠大幅度提高數據的查詢性能呢?要回答這個問題,首先必須明白SQL Server引擎是怎樣讀取數據的。在讀取數據時,SQL Server每次都把所需數據所在的整個Page讀取到內存中,Page是數據讀取的最小單位。如果采用行存儲,每一個Page都存儲所有列的數據,每行的Size決定了單個Page能夠存儲的數據行數量。

我們可以粗略計算一下,如果一個數據行有10列,每列的平均Size是10B,一行的Size是100B,那么單個Page最多存儲80行(8060B/100B);如果采用列存儲模式,那么單個Page可以存儲806行(8060B/10B)。就單個Page存儲的數據行數量而言,列存儲是行存儲的10倍,SQL Server引擎把一個Page讀取到內存中,能夠獲取的數據行數量成10倍增加。

因此,采用列存儲模式時,每一個Page能夠存儲更多的數據行。在加載列存儲數據時,SQL Server只需要消耗少量的IO,就能把某一列的全部數據加載到緩存中。當從列很多的大表中讀取幾個列時,相比傳統的行存儲(Row Store)模式,列存儲(Column Store)能夠成千上萬倍地提高數據的讀取速度和查詢性能。

02、列存儲的物理實現

數據表(堆,B-Tree)以行存儲模式存儲數據,而列存儲索引以列存儲模式存儲數據,行存儲和列存儲的示例圖:

a0097d46-1da3-11ee-962d-dac502259ad0.jpg

1,列存儲的優點

對于列存儲,列C1…C6 存儲在不同的Page組中,列存儲的優點是:

  • 列存儲是把每一列都單獨存儲在Pages集合中,對于行存儲,哪怕只從數據表中選擇(select)一列,SQL Server引擎都把整個數據行所在的Page讀取到內存中,而使用列存儲索引,僅僅需要把select子句指定的列讀取到內存,不需要的列不會被讀取;因此,如果一個查詢請求只需要從少量的幾個列中獲得數據,列存儲能夠大幅度提高查詢性能;
  • 由于單個數據列的數據冗余度更高,因此同一列的數據更容易被壓縮存儲,單個Page存儲更多的數據;
  • 緩存命中率提高,這是因為同一列的數據被高度壓縮,常用的Page被頻繁訪問而變得異常活躍,Buffer Manager把活躍的數據頁緩存到內存中,不常用的Page被換出(Page Out)。
  • 更高級的查詢執行技術,列存儲模式讀取數據使用的是批處理模式(Batch Processing Mode),相對于傳統的行處理技術,查詢性能更高。

2,列存儲模式的物理實現

SQL Server引擎分三步實現列存儲:

  • step1,列存儲索引先把數據表的所有數據行分組,每個分組也稱作行組(Row Groups)。
  • step2,在每個行組中,每列的所有數據行構成一個列段(Column Segment),簡稱段。
  • step3,對每個段進行壓縮處理和編碼,每個段都單獨存儲在列存儲索引中。

a02b9a70-1da3-11ee-962d-dac502259ad0.png

3,編碼和壓縮

列存儲使用兩種編碼類型:基于字典(dictionary based)和基于值(value based),使用Vertipaq壓縮數據。

字典編碼是把唯一值編入字典,每一個唯一值都匹配一個序號,而序號用于索引字典,通過存儲序號來壓縮數據。如果數據表中存在大量的重復值,那么使用字典編碼壓縮率高。

值編碼用于整數類型,或小數類型,編碼的原理是把Value的范圍按照比例縮小或增大,并使用一個指數(exponent)來表示比例。如果整數(integer) 或小數(decimal)的值分布集中,那么使用基于值(value-based)編碼方法進行壓縮非常高效。

列存儲索引的物理存儲如下圖所示:a03e11dc-1da3-11ee-962d-dac502259ad0.png

03、列存儲索引

SQL Server 2012開始引入列存儲模式,用戶通過創建列存儲索引(Column Store Index)來體驗列存儲模式帶來的性能提升。而列存儲模式非常適用于星型連接(Star- Join)類型的聚合查詢,所謂星型連接(Star-Join)的聚合查詢是指對一個大表(Large Table)和多個小表(Little Table)進行連接,并對Large Table 進行聚合查詢。在數據庫倉庫中,是指事實表和維度表的連接。

在大表上創建列存儲索引,SQL Server 引擎將充分使用批處理模式(Batch processing mode)來執行星型查詢,獲取更高的查詢性能。

典型的Star- Join的聚合查詢類似于下面的示例腳本:

select lt.Grouping_Columns,
        AggregationFunction(bt.Columns)
from dbo.LittleTable lt with(nolock)
inner join dbo.BitTable bt with(nolock)
    on lt.Int_Col1=bt.Int_col1
where ....
group by lt.Grouping_Columns

在SQL Server 2012中,只能創建非聚集的列存儲索引,由于列存儲索引的每一列都有獨立的存儲空間(Page Set),因此,列存儲索引會包含數據表的所有列,這樣,每一個數據列都會被索引到。但是,并不是每一列都能獲得相同的性能提升,這是因為,列存儲使用的壓縮算法對于具有大量重復值的字符或數值的數據,壓縮效率更高。對于列存儲索引而言,查詢性能的提升很大程度上依賴列數據的高度壓縮,這會大幅減少存儲該列數據所占用的數據頁(Data Page),進而大幅減少把數據加載到內存所耗費的內存和時間。

CREATE[NONCLUSTERED]COLUMNSTOREINDEXindex_name
ON schema_name . table_name ( column  [ ,...n ] )
[ WITH ( DROP_EXISTING = { ON | OFF } | MAXDOP = max_degree_of_parallelism ) ]
[ ON  partition_scheme_name ( column_name )  | filegroup_name ]

一旦表上創建了非聚集的列存儲索引,基礎表就變成只讀的(read-only),不能對基礎表做任何更新(insert,update,delete 或merge)操作,如果需要修改數據,那么,首先要禁用列存儲索引,然后更新數據,最后重建列存儲索引:

ALTER INDEX mycolumnstoreindex ON mytable DISABLE;
-- update mytable --
ALTER INDEX mycolumnstoreindex on mytable REBUILD

由于創建或重建列存儲索引是IO密集型資源,十分耗費內存資源,因此必須在系統空閑的情況下,更新數據。

04、列存儲索引的空間使用

列存儲索引首先把數據分組,然后每個行組中的每個列構成一個段(Segment),每段都是單獨存儲的,列存儲索引占用的存儲空間的大小是由所有段占用的硬盤空間的加和。

系統視圖:sys.column_store_segments 提供每個段的數據信息,每個段都是每個行組中的一列的數據的集合,例如,如果一個列存儲索引分為10個行組,每個行組有15個數據列,那么,該視圖將返回150個段。

select i.object_id
    ,object_name(i.object_id) as object_name
    ,i.name as index_name
    ,i.type_desc as index_type
    ,col_name(i.object_id,ic.column_id) as index_column_name
    ,sum(s.row_count) as row_count
    ,sum(s.on_disk_size)/1024/1024 as on_disk_size_mb
from sys.column_store_segments s
inner join sys.partitions p 
    on s.partition_id=p.partition_id
inner join sys.indexes i 
    on p.object_id=i.object_id
        and p.index_id=i.index_id
inner join sys.index_columns ic 
    on i.object_id=ic.object_id
        and i.index_id=ic.index_id
        and s.column_id=ic.index_column_id
group by i.object_id
    ,i.index_id
    ,i.name
    ,i.type_desc
    ,ic.column_id
order by i.object_id
    ,i.name
    ,index_column_name

可以看出,列存儲索引中每個段占用的硬盤空間是很少的,加載到內存所需要耗費的時間,IO次數和內存資源也是很少的,再配上性能更高的批處理模式,所以,列存儲能夠大幅度提高數據的查詢性能,特別是對星型聚合的查詢。


聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 存儲
    +關注

    關注

    13

    文章

    4353

    瀏覽量

    86173
  • 編碼
    +關注

    關注

    6

    文章

    957

    瀏覽量

    54951
  • 數據表
    +關注

    關注

    0

    文章

    298

    瀏覽量

    11511

原文標題:為什么列存儲能夠大幅度提高數據的查詢性能

文章出處:【微信號:magedu-Linux,微信公眾號:馬哥Linux運維】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    INA163 4引腳的電壓信號被大幅度衰減是怎么回事?

    中間的是INA163,測試的時候正常上電,給4引腳接入0.1V正弦電壓信號,在9引腳處測試輸出信號,發現被大幅度衰減,基本沒有信號,但是用5引腳測試時是正常的,所以想請教一下,可能存在的原因是什么?謝謝
    發表于 08-30 07:37

    反對法大幅度反對

    反對法多福多壽發的發大幅度反對法大幅度
    發表于 09-13 23:18

    的發生的發生大幅度

    發發大幅度發大廈
    發表于 11-28 11:22

    請問ADF4351輸出頻率如何能將高次諧波大幅度減小?

    采用ADF4351輸出頻率,發現設置輸出頻率時,其3、5、7、2、4、6等倍頻的位置幅值很大,特別是基波600M頻率以下時,3倍頻諧波輸出幅度超過了基波,請教如何能將高次諧波大幅度減小?
    發表于 09-25 11:29

    如何大幅度減少實施時間?

    CPU內核。如何大幅度減少實施時間?我有什么選擇可以改變以加快它嗎?以上來自于谷歌翻譯以下為原文The implementation process is a time-consuming
    發表于 10-17 11:59

    平衡小車保持一段時平衡后突然大幅度來回走動

    能保持靜止,然后過一會兒突然一下就大幅度的來回走動,然后重新啟動后就直接大幅度來回走動了。設定的movement=0;if(Turn_Off(Angle_Balance,Voltage)==1
    發表于 05-19 21:36

    有什么方法可以大幅度提升發電機的發電量呢?

    蒸汽輪機或水輪機的發電原理是什么?有什么方法可以大幅度提升發電機的發電量呢?
    發表于 06-30 06:49

    光纖接入組網方案讓網速大幅度提高

    光纖接入組網方案讓網速大幅度提高 隨著網吧行業的發展,競爭也越來越激烈,要在激烈的競爭中立于不敗之地,設計和組建一個穩
    發表于 04-14 13:51 ?2050次閱讀

    能夠把特定信號大幅度衰減并有衰減極點的低通濾波器

    能夠把特定信號大幅度衰減并有衰減極點的低通濾波器 電路的功能
    發表于 05-13 15:34 ?2138次閱讀
    <b class='flag-5'>能夠</b>把特定信號<b class='flag-5'>大幅度</b>衰減并有衰減極點的低通濾波器

    Altera的FPGA OpenCL計劃大幅度縮短了早期試用客戶的開發時間

      2012年4月11號,北京——Altera公司(Nasdaq: ALTR)今天宣布,goHDR作為FPGA OpenCL計劃的早期試用客戶,通過Altera的FPGA OpenCL計劃,大幅度縮短了開發時間,顯著提高性能
    發表于 04-12 08:58 ?814次閱讀

    谷歌和阿爾法狗為大幅度提高創新能力而采用的5個原則

    接下來,本文將介紹谷歌和阿爾法狗為大幅度提高創新能力而采用的5個原則。在這個VUCA(volatile, uncertain, complex, ambiguous的首字母縮寫,即易變、不確定、復雜、模糊)時代,所有公司都可以用這些原則展開競爭。
    的頭像 發表于 09-29 10:14 ?6126次閱讀

    特斯拉大幅度降價 為何

    特斯拉大幅度降價 為何
    發表于 03-04 14:48 ?875次閱讀

    桁架機器人大幅度提高企業效率的幾大要點

    山東康道智能資訊:桁架機器人大幅度提高企業效率的幾大要點,能替代人工作業外,還能提升產品質量。一、桁架機器人大幅度提高企業效率的幾大要點1、桁架機器人移送產品的時間是固定的,不用休息,
    發表于 01-07 17:29 ?347次閱讀

    小米正在大幅度增加明年的工廠訂單?

    據報道,華為最大的中國智能手機競爭者正在大幅度增加明年的工廠訂單,以實現大膽增長,并可能在激烈的消費者市場中對蘋果構成威脅。
    的頭像 發表于 12-02 15:58 ?1784次閱讀

    存儲索引的空間使用

    (Column Store)把數據表中的每一單獨存儲在Page集合中,這意味著,Page集合中存儲的是某一
    的頭像 發表于 06-25 17:30 ?695次閱讀
    <b class='flag-5'>列</b><b class='flag-5'>存儲</b>索引的空間使用
    威尼斯人娱乐城存取款| 网上百家乐官网赌博犯法吗| 大发888下载大发888娱乐城| 百家乐官网有多少网址| 百家乐2号技术| 凯旋门娱乐| 百家乐9人桌布| 高密市| 明升百家乐娱乐城| 百家乐官网网站开户| 百家乐赌场筹码| 托里县| 百家乐在线娱乐网| 百家乐官网庄家出千内幕| 百家乐官网娱乐分析软件v| 猪猪棋牌游戏| 做生意忌讳什么颜色| 邻水| 全讯网高手论坛| 百家乐注码管理| 百家乐官网赌坊| 百家乐输惨了| 百家乐官网真人娱乐场开户注册 | 百家乐官网游戏论坛| 太阳城网上| 百家乐投注限额| 百家乐官网合作| 赌博中百家乐官网什么意思| 六合彩印刷图库| 波音网百家乐合作| 宿迁市| 大发888在线娱乐城二十一点| 尊龙百家乐官网娱乐平台| 大发888娱乐城游戏下载| 百家乐怎么押钱| 百家乐筹码真伪| 网页百家乐官网游戏| 大发888官方中文网址| 百家乐永利娱乐场开户注册| 百家乐投注法减注| 盛大百家乐官网的玩法技巧和规则|