吴忠躺衫网络科技有限公司

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

虹科干貨 | Redis?Enterprise?自動(dòng)分層技術(shù):大數(shù)據(jù)集高性能解決方案

廣州虹科電子 ? 來(lái)源:虹科云科技 ? 作者:虹科云科技 ? 2023-10-19 11:19 ? 次閱讀

文章來(lái)源:虹科云科技

越來(lái)越多的應(yīng)用程序依賴于龐大的數(shù)據(jù)集合,而這些應(yīng)用程序必須快速響應(yīng)。借助自動(dòng)分層,Redis Enterprise 7.2 幫助開(kāi)發(fā)人員輕松創(chuàng)建超快的應(yīng)用程序。何樂(lè)而不為?

Redis將數(shù)據(jù)存儲(chǔ)在內(nèi)存中,因此應(yīng)用程序能以最快的速度檢索和處理數(shù)據(jù)。然而,隨著應(yīng)用程序需要處理的數(shù)據(jù)越多,存儲(chǔ)數(shù)據(jù)集所需的內(nèi)存越大,所耗費(fèi)的成本則更高,Redis Enterprise自動(dòng)分層技術(shù)能很好地化解這個(gè)兩難的局面。

一、問(wèn)題:內(nèi)存有限且昂貴

當(dāng)應(yīng)用程序訪問(wèn)的數(shù)據(jù)量很大,例如達(dá)到TB級(jí)時(shí),開(kāi)發(fā)人員就面臨著內(nèi)存有限的問(wèn)題,他們一般使用基于磁盤(pán)的解決方案來(lái)在幕后支持 Redis。這樣一來(lái),開(kāi)發(fā)人員就不得不在應(yīng)用程序中構(gòu)建整個(gè)數(shù)據(jù)管理系統(tǒng),這意味著他們要把時(shí)間花在不相干的任務(wù)上。

利用Redis Enterprise 的自動(dòng)分層功能 ,開(kāi)發(fā)人員可以使用固態(tài)硬盤(pán)(SSD)作為可用內(nèi)存的一部分,將大容量數(shù)據(jù)庫(kù)擴(kuò)展到SSD中。Redis Enterprise 可以隨時(shí)識(shí)別哪些數(shù)據(jù)應(yīng)留在內(nèi)存中,哪些數(shù)據(jù)應(yīng)留在固態(tài)硬盤(pán)上,從而將吞吐量提高一倍,并將延遲減半。

因此,開(kāi)發(fā)人員無(wú)需編寫(xiě)額外的代碼或?qū)W習(xí)其他新技術(shù)。通過(guò)將動(dòng)態(tài)RAM 與高速外部存儲(chǔ)相結(jié)合,Redis Enterprise 可以輕松高效地使用系統(tǒng)資源,同時(shí)還能快速訪問(wèn)熱數(shù)據(jù)。

二、自動(dòng)分層的工作原理
image.png

自動(dòng)分層可自動(dòng)管理數(shù)據(jù)。它會(huì)將熱數(shù)據(jù)轉(zhuǎn)移到DRAM,并智能地將未使用的數(shù)據(jù)轉(zhuǎn)移到 SSD。這為依賴大型數(shù)據(jù)集的應(yīng)用帶來(lái)了新的可能性。

通過(guò)將訪問(wèn)頻率較低的冷數(shù)據(jù)轉(zhuǎn)移到固態(tài)硬盤(pán),開(kāi)發(fā)人員可以優(yōu)化內(nèi)存使用,降低與大容量?jī)?nèi)存需求相關(guān)的成本。

實(shí)際上,這可以使數(shù)據(jù)量大的應(yīng)用程序運(yùn)行得更快,而無(wú)需開(kāi)發(fā)人員額外付出。與僅使用DRAM 的部署相比,它還能節(jié)省高達(dá) 70% 的基礎(chǔ)硬件設(shè)施成本。而且,由于自動(dòng)分層可以高效地自動(dòng)管理數(shù)據(jù)訪問(wèn)模式,因此您無(wú)需花費(fèi)時(shí)間(計(jì)算或人工篩選)來(lái)識(shí)別熱數(shù)據(jù)和冷數(shù)據(jù)。

image.png

為了增強(qiáng)這一功能,Redis 與創(chuàng)新的鍵值存儲(chǔ)引擎 Speedb 建立了戰(zhàn)略合作伙伴關(guān)系。我們將其技術(shù)整合為默認(rèn)的自動(dòng)分層引擎。

集成Speedb 后,Redis Enterprise 的性能顯著提升,在訪問(wèn)相同資源的情況下,吞吐量翻倍,延遲減半。這大大拓寬了可利用自動(dòng)分層優(yōu)勢(shì)的用例范圍。在這一改進(jìn)之后,Redis Enterprise 使用自動(dòng)分層的數(shù)據(jù)庫(kù)規(guī)模由每個(gè)內(nèi)核 5k ops/秒增至10k ops/秒。

image.png

三、數(shù)據(jù)案例

我們來(lái)看一個(gè)案例。

下圖展示了自動(dòng)分層在實(shí)際工作負(fù)載場(chǎng)景中的性能演變示例。藍(lán)色條代表使用以前的存儲(chǔ)引擎(RocksDB)的 Redis Enterprise 6.4,紅色條代表使用 Speedb 的 Redis Enterprise 7.2。在基礎(chǔ)設(shè)施方面,我們使用 I4i.8xlarge AWS 實(shí)例在 10 個(gè)分片上托管 1TB 數(shù)據(jù)庫(kù),為實(shí)現(xiàn)高可用性,采用總共 20 個(gè)分片,為 1,024 個(gè)客戶端提供服務(wù)。

為了模擬最標(biāo)準(zhǔn)的Redis 用例,我們?cè)?20% DRAM 和 80% SSD 的配置上定義了兩種不同的有效載荷(1KiB 和 10KiB),并提供了三種可能的使用模式:平衡讀/寫(xiě)(1:1)、重讀(1:4)和重寫(xiě)(4:1)。在這兩種情況下,我們測(cè)量了以每秒操作數(shù)為單位的吞吐量和相應(yīng)的延遲。以下圖表顯示了結(jié)果。

image.png

RAM/SSD數(shù)據(jù)占比2:8,單次操作1KB值

RS 6.4 (RocksDB) 相比,RS 7.2 (Speedb) 改進(jìn)了:

· 85% 命中率時(shí):每秒操作次數(shù)增加 1.4 倍至 1.6 倍,同時(shí)延遲降低高達(dá) 2.4 倍

· 50% 命中率時(shí):每秒操作次數(shù)增加 1.9 倍至 2.3 倍,同時(shí)延遲降低高達(dá) 3.8 倍image.png

RAM/SSD數(shù)據(jù)占比2:8,單次操作10KB值

與RS 6.4 (RocksDB) 相比,RS 7.2 (Speedb) 改進(jìn)了:

· 85% 命中率時(shí):每秒操作次數(shù)增加 2.3 倍至 3.0 倍,同時(shí)延遲降低高達(dá) 3.0 倍

· 50% 命中率時(shí):每秒操作次數(shù)增加 2.1 倍至 3.5 倍,同時(shí)延遲降低高達(dá) 3.5 倍

在所有情況下,帶有Speedb 的 Redis Enterprise 7.2 都具有更好的吞吐量,這意味著維持這種性能水平所需的應(yīng)用程序速度更快,基礎(chǔ)設(shè)施更少。

四、應(yīng)用場(chǎng)景

自動(dòng)分層尤其適用于將數(shù)據(jù)分為熱數(shù)據(jù)和冷數(shù)據(jù)的情況。

1.移動(dòng)銀行

讓我們來(lái)看看移動(dòng)銀行應(yīng)用的例子。

如今,每個(gè)人的移動(dòng)設(shè)備上都有銀行應(yīng)用程序。 用戶登錄應(yīng)用程序,獲取余額,查看最后一筆交易,并獲取其他相對(duì)較小和集中的信息 每個(gè)人都希望這一過(guò)程流暢、簡(jiǎn)單、即時(shí)。這些數(shù)據(jù)就是我們的熱數(shù)據(jù),存放在Redis Enterprise 數(shù)據(jù)庫(kù)的 DRAM 中。

用戶希望獲得更多信息的情況并不常見(jiàn),例如舊交易記錄--也許是兩年前的稅務(wù)數(shù)據(jù)。用戶需要訪問(wèn)這些數(shù)據(jù),但數(shù)據(jù)訪問(wèn)速度并不那么重要。這種數(shù)據(jù)集是我們的冷數(shù)據(jù),可以保存在高速外部存儲(chǔ)如固態(tài)硬盤(pán)中。

2.游戲行業(yè)

速度在游戲行業(yè)也很重要。例如, 游戲應(yīng)用對(duì)延遲有嚴(yán)格要求 。另外,從本質(zhì)上講,游戲是一種潮流。隨著時(shí)間的推移,游戲公司會(huì)積累越來(lái)越多的用戶數(shù)據(jù),并將其存儲(chǔ)在用戶資料數(shù)據(jù)庫(kù)中,但并非所有用戶都是活躍用戶。通過(guò)自動(dòng)分層,活躍用戶的資料數(shù)據(jù)可以存儲(chǔ)在DRAM 中,而其他用戶的數(shù)據(jù)則存儲(chǔ)在 SSD 中。

審核編輯 黃宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 內(nèi)存
    +關(guān)注

    關(guān)注

    8

    文章

    3055

    瀏覽量

    74328
  • 固態(tài)硬盤(pán)
    +關(guān)注

    關(guān)注

    12

    文章

    1474

    瀏覽量

    57548
  • 大數(shù)據(jù)
    +關(guān)注

    關(guān)注

    64

    文章

    8908

    瀏覽量

    137790
  • Redis
    +關(guān)注

    關(guān)注

    0

    文章

    378

    瀏覽量

    10942
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    方案 僅需4個(gè)步驟!輕松高效搭建TSN測(cè)試網(wǎng)絡(luò)

    隨著汽車(chē)行業(yè)向分層同構(gòu)以太網(wǎng)網(wǎng)絡(luò)的轉(zhuǎn)型,時(shí)間敏感網(wǎng)絡(luò)(TSN)逐漸成為實(shí)現(xiàn)確定性以太網(wǎng)互操作性的關(guān)鍵解決方案。本文將詳細(xì)介紹如何快速搭建TSN測(cè)試網(wǎng)絡(luò),涵蓋從流量特征分析到網(wǎng)絡(luò)配置的全過(guò)程,并介紹
    的頭像 發(fā)表于 01-06 11:32 ?132次閱讀
    <b class='flag-5'>虹</b><b class='flag-5'>科</b><b class='flag-5'>方案</b> 僅需4個(gè)步驟!輕松高效搭建<b class='flag-5'>虹</b><b class='flag-5'>科</b>TSN測(cè)試網(wǎng)絡(luò)

    科技特色解決方案介紹

    電子科技有限公司(簡(jiǎn)稱“”,原宏)是一家在汽車(chē)和工業(yè)自動(dòng)化領(lǐng)域有著悠久歷史的企業(yè)。自1
    的頭像 發(fā)表于 01-03 10:56 ?266次閱讀

    鴻蒙原生頁(yè)面高性能解決方案上線OpenHarmony社區(qū) 助力打造高性能原生應(yīng)用

    隨著HarmonyOS NEXT的正式推出,鴻蒙原生應(yīng)用開(kāi)發(fā)熱度高漲,數(shù)量激增。但在三方應(yīng)用鴻蒙化進(jìn)程中,性能問(wèn)題頻出。為此,HarmonyOS NEXT推出了一整套原生頁(yè)面高性能解決方案,包括
    發(fā)表于 01-02 18:00

    華為云Flexus X實(shí)例,Redis性能加速評(píng)測(cè)及對(duì)比

    隨著云計(jì)算技術(shù)的飛速發(fā)展,Redis 作為一種高性能的內(nèi)存數(shù)據(jù)庫(kù),在各種應(yīng)用場(chǎng)景中發(fā)揮著越來(lái)越重要的作用。為了滿足不同用戶對(duì) Redis
    的頭像 發(fā)表于 12-29 15:47 ?215次閱讀
    華為云Flexus X實(shí)例,<b class='flag-5'>Redis</b><b class='flag-5'>性能</b>加速評(píng)測(cè)及對(duì)比

    廣和通率先推出5G融合Wi-Fi 7智能解決方案

    近期,廣和通率先推出5G融合Wi-Fi 7智能解決方案,以高性能、高速率、高可靠的無(wú)線連接幫助客戶快速迭代智能終端。目前,該5G+Wi-Fi 7智能解決方案已在智能手持客戶商用,幫助客戶以更優(yōu)成本、更短開(kāi)發(fā)周期邁向高速連接。
    的頭像 發(fā)表于 12-06 15:11 ?401次閱讀

    攜手Seed Robotics,開(kāi)啟機(jī)器人靈巧手合作新篇章

    與SeedRobotics將結(jié)合各自在技術(shù)和市場(chǎng)方面的優(yōu)勢(shì),共同推廣一系列先進(jìn)的機(jī)器人手和操縱器產(chǎn)品/解決方案,以滿足工業(yè)、醫(yī)療、教育和研究等領(lǐng)域?qū)?b class='flag-5'>高性能機(jī)器人技術(shù)的需求。關(guān)于S
    的頭像 發(fā)表于 12-05 01:00 ?417次閱讀
    <b class='flag-5'>虹</b><b class='flag-5'>科</b>攜手Seed Robotics,開(kāi)啟機(jī)器人靈巧手合作新篇章

    ADI高性能電源管理解決方案

    電子發(fā)燒友網(wǎng)站提供《ADI高性能電源管理解決方案.pdf》資料免費(fèi)下載
    發(fā)表于 11-15 11:04 ?453次下載

    應(yīng)用 為什么PCAN方案能成為石油工程通訊的首選?

    在石油工程領(lǐng)域,實(shí)時(shí)監(jiān)控鉆井參數(shù)對(duì)于確保作業(yè)安全和提高效率至關(guān)重要。提供的PCAN解決方案憑借其高可靠性和便捷的安裝維護(hù)特性,為石油鉆井行業(yè)帶來(lái)了顯著的革新。
    的頭像 發(fā)表于 11-08 16:48 ?283次閱讀
    <b class='flag-5'>虹</b><b class='flag-5'>科</b>應(yīng)用 為什么<b class='flag-5'>虹</b><b class='flag-5'>科</b>PCAN<b class='flag-5'>方案</b>能成為石油工程通訊的首選?

    應(yīng)用 | 煤礦機(jī)械數(shù)據(jù)傳輸監(jiān)測(cè)難?試試PCAN優(yōu)選方案

    ,痛點(diǎn)頻現(xiàn)。推出的基于CAN總線技術(shù)的煤礦安全監(jiān)控系統(tǒng),融合多傳感器信息,顯著提升了監(jiān)測(cè)實(shí)時(shí)性、數(shù)據(jù)傳輸效率和系統(tǒng)抗干擾能力,為煤礦安全帶來(lái)變革。01#煤礦監(jiān)
    的頭像 發(fā)表于 10-17 08:01 ?378次閱讀
    <b class='flag-5'>虹</b><b class='flag-5'>科</b>應(yīng)用 | 煤礦機(jī)械<b class='flag-5'>數(shù)據(jù)</b>傳輸監(jiān)測(cè)難?試試<b class='flag-5'>虹</b><b class='flag-5'>科</b>PCAN優(yōu)選<b class='flag-5'>方案</b>

    能源為SolarToday提供高壓戶用儲(chǔ)能解決方案

    近日,全球領(lǐng)先的光伏、儲(chǔ)能企業(yè)晶能源宣布,為SolarToday提供高壓戶用儲(chǔ)能解決方案,該方案將于2024年6月起在德國(guó)DACH和BeneLux地區(qū)使用。
    的頭像 發(fā)表于 06-22 10:14 ?636次閱讀

    新品 | E-Val Pro Plus有線驗(yàn)證解決方案

    有線驗(yàn)證解決方案E-ValProPlus我們很高興地宣布,我們將推出全新的
    的頭像 發(fā)表于 04-19 08:04 ?418次閱讀
    <b class='flag-5'>虹</b><b class='flag-5'>科</b>新品 | E-Val Pro Plus有線驗(yàn)證<b class='flag-5'>解決方案</b>

    方案 | 符合醫(yī)藥行業(yè)規(guī)范的液氮罐運(yùn)輸和存儲(chǔ)溫度監(jiān)測(cè)解決方案

    在醫(yī)藥行業(yè),液氮罐用于運(yùn)輸和存儲(chǔ)敏感生物樣本和藥品,需保持極低溫度。的液氮罐溫度監(jiān)測(cè)解決方案不僅符合行業(yè)規(guī)范,還解決了極端低溫下的挑戰(zhàn)。了解如何保障產(chǎn)品質(zhì)量、安全性,滿足合規(guī)要求,并確保追溯責(zé)任。立即探索
    的頭像 發(fā)表于 04-17 13:08 ?363次閱讀
    <b class='flag-5'>虹</b><b class='flag-5'>科</b><b class='flag-5'>方案</b> | 符合醫(yī)藥行業(yè)規(guī)范的液氮罐運(yùn)輸和存儲(chǔ)溫度監(jiān)測(cè)<b class='flag-5'>解決方案</b>

    PLC如何為樓宇自動(dòng)化行業(yè)提供空調(diào)、供暖與通風(fēng)的解決方案?

    還在人工控制空調(diào)、供暖與通風(fēng)系統(tǒng)嗎?宏通過(guò)高性能控制器與CODESYS軟件平臺(tái),為樓宇自動(dòng)化行業(yè)提供高效解決方案,助力客戶維護(hù)建筑運(yùn)行并減少相關(guān)成本。
    的頭像 發(fā)表于 04-07 10:31 ?558次閱讀
    宏<b class='flag-5'>集</b>PLC如何為樓宇<b class='flag-5'>自動(dòng)</b>化行業(yè)提供空調(diào)、供暖與通風(fēng)的<b class='flag-5'>解決方案</b>?

    開(kāi)放式高實(shí)時(shí)高性能PLC控制器解決方案-基于米爾電子STM32MP135

    實(shí)時(shí)高性能需求尤其突出。面對(duì)以上挑戰(zhàn),合作伙伴翌控科技基于米爾STM32MP135開(kāi)發(fā)板發(fā)布開(kāi)放式高實(shí)時(shí)高性能PLC控制器解決方案,將高精準(zhǔn)數(shù)據(jù)采集、預(yù)處理、存儲(chǔ)、通信與高實(shí)時(shí)控制融為
    發(fā)表于 03-07 20:06

    NVMe Host Controller IP實(shí)現(xiàn)高性能存儲(chǔ)解決方案

    電子發(fā)燒友網(wǎng)站提供《NVMe Host Controller IP實(shí)現(xiàn)高性能存儲(chǔ)解決方案.pdf》資料免費(fèi)下載
    發(fā)表于 02-21 14:28 ?2次下載
    京城娱乐城开户| 什么事百家乐官网的路单 | 百家乐官网不能视频| 澳门百家乐赢钱秘诀| 宁夏| 太阳城百家乐分析解码| 真钱现金斗地主| 百家乐庄闲和游戏机| 假日国际娱乐城| 百家乐代理商博彩e族| 网上百家乐官网骗人| 百家乐庄多还是闲多| 百家乐官网视频游戏官网| 星期8百家乐娱乐城| 百家乐官网怎么才能包赢| 百家乐官网比赛技巧| 杭州百家乐西园| 马洪刚百家乐官网技巧| 棋牌娱乐游戏大厅| 百家乐群bet20| 金花百家乐官网的玩法技巧和规则| 六合彩即时开奖| 百家乐推筒子| 百家乐官网娱乐网送68元| 德州扑克高手| 百家乐桌子10人| 钱百家乐官网取胜三步曲| 太阳城娱乐网sss977| 百家乐的嬴钱法| 太阳城百家乐官网投注| 全讯网3344555.com| 百家乐官网娱乐网网77scs| 千亿国际| 沙龙百家乐娱乐场开户注册| 百家乐官网里靴是什么意识| 在线棋牌游戏| 太阳城83| 半圆百家乐桌布| 百家乐官网打鱼秘籍| 崇阳县| 大发888游戏注册|