国产无遮挡色视频免费视频-国产五月色婷婷综合-国产五月婷婷-国产午夜不卡-曰批免费视频播放在线看片二-曰韩一级毛片

更多精彩 >

星環(huán)科技—打造自主可控的高性能數(shù)據(jù)庫(kù),開(kāi)啟國(guó)產(chǎn)化升級(jí)新篇章

2022-04-27 10:43:16   來(lái)源:  作者: 

摘要:星環(huán)科技自成立以來(lái),一直致力于國(guó)產(chǎn)化數(shù)據(jù)庫(kù)的自主研發(fā),打造了自主可控的高性能分布式分析型數(shù)據(jù)庫(kù)ArgoDB和分布式交易型數(shù)據(jù)庫(kù)KunDB。

星環(huán)科技自成立以來(lái),一直致力于國(guó)產(chǎn)化數(shù)據(jù)庫(kù)的自主研發(fā),打造了自主可控的高性能分布式分析型數(shù)據(jù)庫(kù)ArgoDB和分布式交易型數(shù)據(jù)庫(kù)KunDB。交易型數(shù)據(jù)庫(kù)KunDB具備較強(qiáng)的SQL兼容性,同時(shí)具備高可用、高并發(fā)、在線擴(kuò)縮容、數(shù)據(jù)強(qiáng)一致性等能力,適用于操作型業(yè)務(wù)、高并發(fā)業(yè)務(wù)等場(chǎng)景。多模型數(shù)據(jù)庫(kù)ArgoDB具備完整的SQL兼容性,同時(shí)具備高擴(kuò)展、高可靠、多模型、存算解耦等能力,一站式滿足數(shù)據(jù)倉(cāng)庫(kù)、實(shí)時(shí)數(shù)據(jù)倉(cāng)庫(kù)、數(shù)據(jù)集市、OLAP、聯(lián)邦計(jì)算等場(chǎng)景。

通過(guò)不斷的打磨和對(duì)業(yè)務(wù)場(chǎng)景不斷的落地實(shí)踐,ArgoDB和KunDB已成為具有完全自主知識(shí)產(chǎn)權(quán)的成熟的國(guó)產(chǎn)數(shù)據(jù)庫(kù),能夠?yàn)楦嗟目蛻?hù)提供高性能、高可靠、成熟的數(shù)據(jù)庫(kù)產(chǎn)品服務(wù),幫助用戶(hù)應(yīng)對(duì)智能數(shù)據(jù)時(shí)代海量數(shù)據(jù)的分析與探索。

近日,星環(huán)科技正式發(fā)布了ArgoDB5.0和KunDB3.0,并將其結(jié)合打造了一體化實(shí)時(shí)AETP技術(shù)(分析增強(qiáng)型交易庫(kù)),在一個(gè)數(shù)據(jù)庫(kù)系統(tǒng)里同時(shí)支撐交易與分析混合型業(yè)務(wù)場(chǎng)景,助力數(shù)據(jù)庫(kù)國(guó)產(chǎn)化升級(jí)。

ArgoDB5.0:存算引擎雙升級(jí),打造高性能湖倉(cāng)集一體化多模型數(shù)據(jù)庫(kù)

Transwarp ArgoDB 是星環(huán)科技自主研發(fā)的面向數(shù)據(jù)分析型業(yè)務(wù)場(chǎng)景的國(guó)產(chǎn)化分布式多模數(shù)據(jù)庫(kù),能夠一站式替代Hadoop+MPP混合架構(gòu),提供多模分析、實(shí)時(shí)數(shù)據(jù)處理、存算解耦、混合負(fù)載、數(shù)據(jù)聯(lián)邦、異構(gòu)服務(wù)器混合部署等先進(jìn)技術(shù)能力,一站式滿足數(shù)據(jù)倉(cāng)庫(kù)、實(shí)時(shí)數(shù)據(jù)倉(cāng)庫(kù)、數(shù)據(jù)集市、OLAP、聯(lián)邦計(jì)算等各種需求。2019年8月,ArgoDB成為全球第四個(gè)通過(guò)TPC-DS基準(zhǔn)測(cè)試并經(jīng)過(guò)TPC官方審計(jì)的數(shù)據(jù)庫(kù)產(chǎn)品。

ArgoDB5.0打造了新一代向量化計(jì)算引擎和多模型存儲(chǔ)引擎,整體分析性能大幅度提升。ArgoDB5.0進(jìn)一步加強(qiáng)了多模型數(shù)據(jù)的支持能力和處理能力,通過(guò)一個(gè)數(shù)據(jù)庫(kù)就可以滿足更多數(shù)據(jù)模型處理和不同模態(tài)數(shù)據(jù)關(guān)聯(lián)。同時(shí),ArgoDB5.0引入DP-SQL能力,實(shí)現(xiàn)對(duì)數(shù)據(jù)的隱私保護(hù),滿足數(shù)據(jù)發(fā)布、流通、脫敏、查詢(xún)、交易等場(chǎng)景下的數(shù)據(jù)安全要求。在數(shù)據(jù)資產(chǎn)安全保障上,5.0版本繼續(xù)加強(qiáng)了數(shù)據(jù)容災(zāi)備份能力,通過(guò)細(xì)粒度、高并發(fā)、高效率的容災(zāi)備份能力

,進(jìn)一步提升數(shù)據(jù)安全保障能力。此外,ArgoDB 5.0進(jìn)一步加強(qiáng)數(shù)據(jù)湖和數(shù)據(jù)倉(cāng)庫(kù)/數(shù)據(jù)集市等業(yè)務(wù)面的技術(shù)革新,增強(qiáng)湖倉(cāng)集融合能力,通過(guò)統(tǒng)一訪問(wèn)接口、統(tǒng)一存儲(chǔ)、統(tǒng)一元數(shù)據(jù)管理等能力,真正意義上為用戶(hù)提供湖倉(cāng)集一體化的場(chǎng)景解決方案。

新一代向量化計(jì)算引擎和多模存儲(chǔ)引擎,分析性能是同類(lèi)數(shù)據(jù)庫(kù)產(chǎn)品的2~10倍

ArgoDB 5.0在原高效的計(jì)算引擎之上,將計(jì)算算子全向量化native改寫(xiě),使得高并發(fā)復(fù)雜分析在百毫秒內(nèi)反饋結(jié)果,將優(yōu)化器中引入數(shù)據(jù)的動(dòng)態(tài)采樣,全面支持多種join的重寫(xiě)。同時(shí)結(jié)合業(yè)務(wù)場(chǎng)景,優(yōu)化場(chǎng)景化能力,重點(diǎn)在湖倉(cāng)一體的SQL管理上進(jìn)行了優(yōu)化,并且新增隱私計(jì)算能力和數(shù)據(jù)動(dòng)態(tài)脫敏能力,增強(qiáng)數(shù)據(jù)聯(lián)邦場(chǎng)景中SQL語(yǔ)句算子下推能力等。

在存儲(chǔ)引擎方面,ArgoDB 5.0繼續(xù)深耕分布式存儲(chǔ)框架與列式存儲(chǔ)引擎的優(yōu)化,在降低業(yè)務(wù)資源消耗的同時(shí)提升多模型能力和業(yè)務(wù)性能。相對(duì)于上一代批量掃描性能提升了10倍以上,同時(shí)降低業(yè)務(wù)SQL資源(IO等)的使用,提升系統(tǒng)穩(wěn)定性和業(yè)務(wù)效率。對(duì)于實(shí)時(shí)數(shù)倉(cāng)場(chǎng)景,數(shù)據(jù)延遲控制在毫秒級(jí),并且支持高并發(fā)分析。在大集群場(chǎng)景下,支持百萬(wàn)級(jí)別的表和百萬(wàn)級(jí)別的元信息管理,穩(wěn)定性進(jìn)一步提升。

基于存算雙引擎的升級(jí),ArgoDB 5.0在性能上有大幅度的提升,尤其是OLAP分析場(chǎng)景下的性能提升,無(wú)論是單表查詢(xún)還是多表關(guān)聯(lián)場(chǎng)景,ArgoDB都具備有明顯的性能優(yōu)勢(shì),整體上是同類(lèi)數(shù)據(jù)庫(kù)產(chǎn)品的2-10倍,幫助用戶(hù)更快、更穩(wěn)定地應(yīng)對(duì)復(fù)雜多變的業(yè)務(wù)需求。

多模數(shù)據(jù)融合分析,更高效地滿足”一庫(kù)多用“場(chǎng)景

隨著業(yè)務(wù)數(shù)據(jù)量不斷增長(zhǎng)的同時(shí),數(shù)據(jù)結(jié)構(gòu)也變得越來(lái)越靈活多樣,數(shù)據(jù)不再局限于規(guī)整的結(jié)構(gòu)化數(shù)據(jù),半結(jié)構(gòu)化、非結(jié)構(gòu)化數(shù)據(jù)在數(shù)據(jù)域處理中的占比逐年上升,因此對(duì)不同模態(tài)的數(shù)據(jù)進(jìn)行智能化數(shù)據(jù)處理的需求越來(lái)越迫切。

多模型數(shù)據(jù)庫(kù)ArgoDB繼3.2版本新增支持大對(duì)象數(shù)據(jù)類(lèi)型Blob和Clob,用來(lái)存儲(chǔ)、查詢(xún)和處理圖片、電子文檔、音頻、視頻等非結(jié)構(gòu)化數(shù)據(jù)后,ArgoDB 5.0新增對(duì)半結(jié)構(gòu)化的JSON/JSONB/XML數(shù)據(jù)類(lèi)型的支持,滿足了更多數(shù)據(jù)模型處理場(chǎng)景和更多復(fù)雜業(yè)務(wù)需求。

同時(shí),ArgoDB 5.0進(jìn)一步加強(qiáng)了對(duì)多模態(tài)數(shù)據(jù)的處理能力,在優(yōu)化器上進(jìn)一步深耕,對(duì)不同模態(tài)數(shù)據(jù)基于代價(jià)/規(guī)則等自動(dòng)判斷選擇合理高效模型,拆分、分發(fā)計(jì)算任務(wù),讓數(shù)據(jù)處理更加快捷和高效。

在架構(gòu)上,ArgoDB基于存算解耦,實(shí)現(xiàn)了多模數(shù)據(jù)庫(kù)的“四個(gè)統(tǒng)一”:

? 統(tǒng)一的SQL編譯引擎,支持SQL 99/2003 標(biāo)準(zhǔn)語(yǔ)法,兼容TD,Oracle,DB2等多種方言,對(duì)不同模式的數(shù)據(jù)提供統(tǒng)一接口,將多個(gè)操作訪問(wèn)入口變?yōu)橐粋€(gè)入口,將多種數(shù)據(jù)庫(kù)語(yǔ)言變?yōu)橐环N語(yǔ)言,降低開(kāi)發(fā)和遷移成本,簡(jiǎn)化用戶(hù)操作。

? 統(tǒng)一的計(jì)算引擎,將多套計(jì)算引擎變?yōu)橐惶滓妫瑢⒍喾萦?jì)算資源變?yōu)橐环葙Y源,提供高性能的分析計(jì)算和執(zhí)行效率,滿足跨模型數(shù)據(jù)復(fù)雜關(guān)聯(lián)分析場(chǎng)景。

? 統(tǒng)一的存儲(chǔ)管理系統(tǒng),同時(shí)支持分析型行列混合存儲(chǔ)、支持具有搜索功能的文本存儲(chǔ)等多模異構(gòu)存儲(chǔ),并保證數(shù)據(jù)的強(qiáng)一致性,數(shù)據(jù)只需一次入庫(kù),即可通過(guò)異構(gòu)存儲(chǔ)的訪問(wèn)能力支撐多樣化復(fù)雜分析場(chǎng)景,降低運(yùn)維成本,將分散存儲(chǔ)管理變?yōu)榻y(tǒng)一存儲(chǔ)管理,極大簡(jiǎn)化系統(tǒng)架構(gòu),減少開(kāi)發(fā)運(yùn)維成本。

? 統(tǒng)一的星環(huán)云原生操作系統(tǒng),支持 ARM+X86的混合架構(gòu),用戶(hù)可以利舊硬件,大幅降低成本。

ArgoDB5.0通過(guò)統(tǒng)一的元數(shù)據(jù)管理、統(tǒng)一的事務(wù)管理和完備的多模優(yōu)化器支撐了對(duì)不同模態(tài)數(shù)據(jù)的統(tǒng)一讀取調(diào)度,實(shí)現(xiàn)多模態(tài)融合,滿足更多“一庫(kù)多用“場(chǎng)景。

創(chuàng)新型數(shù)據(jù)差分隱私,強(qiáng)化數(shù)據(jù)安全

數(shù)據(jù)處理與數(shù)據(jù)安全是不可分割的,如何對(duì)個(gè)人數(shù)據(jù)的有效保護(hù)是在數(shù)據(jù)處理、數(shù)據(jù)公開(kāi)、數(shù)據(jù)發(fā)布中不可繞開(kāi)的一個(gè)話題。隱私保護(hù)是基于差分隱私的密碼學(xué)方法,在統(tǒng)計(jì)數(shù)據(jù)庫(kù)查詢(xún)時(shí),旨在保證數(shù)據(jù)查詢(xún)的同時(shí),最大程度減少識(shí)別個(gè)體數(shù)據(jù)的機(jī)會(huì)。

ArgoDB 5.0版本結(jié)合數(shù)據(jù)隱私安全的業(yè)務(wù)訴求,引入DP-SQL能力,實(shí)現(xiàn)對(duì)數(shù)據(jù)的隱私保護(hù),滿足數(shù)據(jù)發(fā)布、流通、脫敏、查詢(xún)、交易等場(chǎng)景下的數(shù)據(jù)安全要求。在交互式場(chǎng)景下,數(shù)據(jù)管理者可以按需對(duì)查詢(xún)請(qǐng)求數(shù)據(jù)集合添加必要的干擾(即:噪聲)后反饋給用戶(hù);在非交互式場(chǎng)景下,數(shù)據(jù)管理者可以按需針對(duì)所有可能的查詢(xún),在滿足一定條件下一次性發(fā)布相關(guān)查詢(xún)數(shù)據(jù)(即添加噪聲后的“凈化版”數(shù)據(jù))。

ArgoDB5.0將隱私計(jì)算與數(shù)據(jù)庫(kù)技術(shù)相結(jié)合,支持復(fù)雜分析SQL自動(dòng)優(yōu)化,易于開(kāi)發(fā)人員使用。同時(shí)將加密協(xié)議結(jié)合SQL優(yōu)化技術(shù),相較于python級(jí)別實(shí)現(xiàn)執(zhí)行效率更優(yōu),支持更大數(shù)據(jù)量的隱私計(jì)算。

打破數(shù)據(jù)壁壘,增強(qiáng)湖倉(cāng)集融合

隨著數(shù)據(jù)與業(yè)務(wù)的并行發(fā)展,對(duì)數(shù)據(jù)的融合分析處理逐漸成為數(shù)據(jù)庫(kù)技術(shù)發(fā)展趨勢(shì)。當(dāng)數(shù)據(jù)倉(cāng)庫(kù)與數(shù)據(jù)湖數(shù)據(jù)集市協(xié)同處理時(shí),帶來(lái)的是數(shù)據(jù)孤島的打破,以及數(shù)據(jù)計(jì)算邊界的拓寬。

ArgoDB 5.0版本進(jìn)一步加強(qiáng)數(shù)據(jù)湖和數(shù)據(jù)倉(cāng)庫(kù)/數(shù)據(jù)集市等業(yè)務(wù)面的技術(shù)革新。在同一平臺(tái)中,避免數(shù)據(jù)移動(dòng),將原始的、加工清洗的、模型化的數(shù)據(jù),共同存儲(chǔ)于一體化的“湖倉(cāng)集”中,既能面向業(yè)務(wù)實(shí)現(xiàn)高并發(fā)、精準(zhǔn)化、高性能的歷史數(shù)據(jù)、實(shí)時(shí)數(shù)據(jù)的查詢(xún)服務(wù),又能承載分析報(bào)表、批處理、數(shù)據(jù)挖掘等分析型數(shù)據(jù)集市業(yè)務(wù),真正意義上為用戶(hù)提供湖倉(cāng)集一體化的場(chǎng)景解決方案。

通過(guò)ArgoDB打造的湖倉(cāng)集一體化方案,用戶(hù)可以基于統(tǒng)一訪問(wèn)接口最大程度上降低數(shù)據(jù)湖、數(shù)據(jù)倉(cāng)庫(kù)、數(shù)據(jù)集市業(yè)務(wù)過(guò)程中業(yè)務(wù)接口的調(diào)整,降低用戶(hù)開(kāi)發(fā)成本,提高數(shù)據(jù)處理效率。統(tǒng)一的元數(shù)據(jù)管理可以在精準(zhǔn)的ACL控制下,實(shí)現(xiàn)按需展示湖倉(cāng)集內(nèi)的相關(guān)元數(shù)據(jù)的統(tǒng)一查詢(xún),提高數(shù)據(jù)管理效率。統(tǒng)一存儲(chǔ)管理,對(duì)使用者屏蔽不同數(shù)據(jù)源的數(shù)據(jù)存儲(chǔ),降低業(yè)務(wù)數(shù)據(jù)管理難度。此外,基于ArgoDB打造的湖倉(cāng)集一體化方案可以無(wú)縫銜接AI技術(shù),幫助業(yè)務(wù)挖掘更多數(shù)據(jù)價(jià)值。

KunDB3.0:高度兼容Oracle語(yǔ)法和PL/SQL, 實(shí)現(xiàn)OLTP數(shù)據(jù)庫(kù)國(guó)產(chǎn)化升級(jí)

Transwarp KunDB是星環(huán)科技基于分布式技術(shù)自主研發(fā)的國(guó)產(chǎn)化的交易型數(shù)據(jù)庫(kù),提供完整的關(guān)系型數(shù)據(jù)庫(kù)的能力,高度兼容SQL,保證事務(wù)ACID。KunDB具有業(yè)內(nèi)領(lǐng)先的事務(wù)處理性能,SQL兼容性以及最新的分布式查詢(xún)優(yōu)化技術(shù),支持復(fù)雜查詢(xún)且性能是MySQL的10倍以上,充分滿足高并發(fā)、大數(shù)據(jù)量的交易型業(yè)務(wù)場(chǎng)景,能夠?qū)崿F(xiàn)MySQL,Oracle等傳統(tǒng)主流數(shù)據(jù)庫(kù)的國(guó)產(chǎn)化替代。獨(dú)特的混合部署技術(shù)支持主流國(guó)產(chǎn)化CPU等自主可控的硬件平臺(tái)和OS部署,滿足國(guó)產(chǎn)化部署需求。此外,KunDB提供全鏈路高可用、一致性備份恢復(fù)等容災(zāi)能力,以及完備的安全管理、資源管理能力,可以為不同業(yè)務(wù)場(chǎng)景保駕護(hù)航。

KunDB3.0高度兼容Oracle對(duì)象與語(yǔ)法,基于創(chuàng)新的過(guò)程語(yǔ)言編譯技術(shù),完整支持Oracle PL/SQL語(yǔ)法,大大降低企業(yè)國(guó)產(chǎn)化遷移成本。通過(guò)豐富查詢(xún)優(yōu)化規(guī)則和算子進(jìn)一步增強(qiáng)查詢(xún)優(yōu)化器,并結(jié)合全新的向量化執(zhí)行引擎使得分析性能在TPCH基準(zhǔn)測(cè)試中較MySQL最高優(yōu)化80倍。在事務(wù)處理能力方面,相較于KunDB2.0采用的全局事務(wù)管理器GTM方案,KunDB3.0采用基于TSO的全新分布式強(qiáng)一致事務(wù)處理框架,進(jìn)一步提升分布式事務(wù)處理能力,事務(wù)處理上限達(dá)300萬(wàn)TPS,較GTM方案提升5倍以上。同時(shí)KunDB3.0也對(duì)存儲(chǔ)層性能和分布式架構(gòu)做了持續(xù)優(yōu)化,單機(jī)TPCC提升了1倍,分布式TPCC提升了60%。在容災(zāi)能力方面,KunDB3.0優(yōu)化了跨機(jī)房容災(zāi)架構(gòu),支持全鏈路高可用、一致性備份恢復(fù)等能力,故障時(shí)可恢復(fù)過(guò)去任意時(shí)間點(diǎn),充分保障數(shù)據(jù)安全。此外,KunDB3.0采用了基于分析引擎增強(qiáng)分布式事務(wù)處理引擎技術(shù)(ATEP),大幅提高了KunDB的數(shù)據(jù)分析能力,通過(guò)一個(gè)系統(tǒng)就可以同時(shí)提供高性能AP和TP服務(wù)能力,滿足交易與分析混合型業(yè)務(wù)場(chǎng)景。

高度兼容Oracle對(duì)象與語(yǔ)法,完整支持Oracle PL/SQL

KunDB3.0 對(duì)Oracle語(yǔ)法各個(gè)方面高度兼容,成為業(yè)內(nèi)領(lǐng)先的具備支撐Oracle業(yè)務(wù)遷移能力的國(guó)產(chǎn)數(shù)據(jù)庫(kù)。KunDB3.0高度兼容Oracle語(yǔ)法與PL/SQL,支持VARCHAR2、NVARCHAR2等全部類(lèi)型,在PL/SQL語(yǔ)法上,支持控制語(yǔ)句、集合、動(dòng)態(tài)SQL、子程序、預(yù)定義包、錯(cuò)誤處理等全部PL/SQL語(yǔ)法,解決了Oracle業(yè)務(wù)遷移到國(guó)產(chǎn)化數(shù)據(jù)庫(kù)的核心痛點(diǎn),為其它兼容性完善提供了基礎(chǔ)。在Oracle數(shù)據(jù)庫(kù)對(duì)象、DML、函數(shù)、系統(tǒng)視圖、內(nèi)置包、驅(qū)動(dòng)等方面,做到了常用功能的兼容,滿足大部分業(yè)務(wù)的遷移需求,極大降低了企業(yè)業(yè)務(wù)遷移成本。

KunDB3.0采用創(chuàng)新的過(guò)程語(yǔ)言編譯技術(shù)及中間優(yōu)化語(yǔ)言TIR,完整支持Oracle PL/SQL語(yǔ)法,并在4類(lèi)技術(shù)場(chǎng)景實(shí)現(xiàn)創(chuàng)新和性能提升。

? 為了支持多個(gè)數(shù)據(jù)庫(kù)方言,傳統(tǒng)解釋器方式導(dǎo)致重復(fù)工作量會(huì)很大。KunDB3.0通過(guò)統(tǒng)一的中間優(yōu)化語(yǔ)言TIR,表達(dá)任意的過(guò)程式語(yǔ)義及SQL語(yǔ)義,支持multi pass編譯與LLVM IR組合,低偶合、低成本的擴(kuò)展不同數(shù)據(jù)庫(kù)PL/SQL語(yǔ)法體系

? 傳統(tǒng)技術(shù)將PL/SQL翻譯成函數(shù)執(zhí)行方式,沒(méi)有控制流代碼優(yōu)化空間。KunDB3.0通過(guò)轉(zhuǎn)譯LLVM,將PL/SQL轉(zhuǎn)為底層語(yǔ)法,可以與llvm的 multi pass優(yōu)化結(jié)合,增加代碼優(yōu)化規(guī)則,從而優(yōu)化存儲(chǔ)過(guò)程的執(zhí)行

? 傳統(tǒng)翻譯成函數(shù)執(zhí)行的方式,無(wú)法進(jìn)一步實(shí)現(xiàn)編譯執(zhí)行。KunDB3.0引入統(tǒng)一表達(dá)式處理引擎技術(shù),SQL與PL/SQL可復(fù)用編譯優(yōu)化,實(shí)現(xiàn)方式上比Oracle更加簡(jiǎn)潔,同時(shí)節(jié)省了開(kāi)發(fā)成本

傳統(tǒng)的異常處理無(wú)法實(shí)現(xiàn)零開(kāi)銷(xiāo)。KunDB3.0參考LLVM的landing pad技術(shù),實(shí)現(xiàn)零開(kāi)銷(xiāo)的異常處理系統(tǒng)。

全新的查詢(xún)優(yōu)化器和向量化執(zhí)行引擎,復(fù)雜分析性能提升10倍

KunDB從2.0到3.0的迭代中,為了更加友好的支持跨分片的復(fù)雜查詢(xún)分析,提升AP能力,KunDB基于火山模型重新設(shè)計(jì)了查詢(xún)優(yōu)化器,面向分布式存儲(chǔ)豐富了查詢(xún)優(yōu)化的規(guī)則,包括了分片下推、子查詢(xún)?nèi)リP(guān)聯(lián)化等十多種查詢(xún)優(yōu)化規(guī)則,相應(yīng)的擴(kuò)展和優(yōu)化了block hash join、Index Lookup Join等二十多個(gè)算子,TPCH 子查詢(xún)性能相比于KunDB2.0均有大幅度提升,最高提升了近20倍。

KunDB3.0使用了全新的向量化執(zhí)行引擎,在內(nèi)存中使用列存儲(chǔ)的方式對(duì)數(shù)據(jù)進(jìn)行轉(zhuǎn)換存儲(chǔ)后再進(jìn)行計(jì)算,相比于內(nèi)存行式數(shù)據(jù)管理,在內(nèi)存資源占用、分析函數(shù)實(shí)現(xiàn)、表達(dá)式求值性能、壓縮支持上都更加具有優(yōu)勢(shì)。另一方面,執(zhí)行引擎基于多協(xié)程技術(shù),采用了基于流水線的并行處理框架,支持并行的數(shù)據(jù)掃描、算子間數(shù)據(jù)交換、算子計(jì)算、結(jié)果集返回等全鏈路過(guò)程,對(duì)于數(shù)據(jù)可分拆執(zhí)行的場(chǎng)景,性能有大幅提升。同樣的數(shù)據(jù)規(guī)模下以TPCH測(cè)試為參考,KunDB分析性能較MysQL有大幅度提升,22個(gè)Query最高性能提升可達(dá)到MySQL的近80倍。

基于TSO的全新分布式強(qiáng)一致事務(wù)處理,集群事務(wù)處理能力提升1倍

在分布式事務(wù)處理上,KunDB3.0使用基于全局時(shí)間戳的事務(wù)處理框架來(lái)代替2.0的全局事務(wù)管理器GTM方案。分布式層引入了TSO服務(wù)器分配時(shí)間戳,采用XA協(xié)議和時(shí)間戳優(yōu)化2PC保證分布式原子性寫(xiě),分布式事務(wù)開(kāi)銷(xiāo)降低50%。基于事務(wù)提交時(shí)間戳可做到副本全局一致性讀,實(shí)現(xiàn)保證事務(wù)的讀寫(xiě)分離。存儲(chǔ)層可基于當(dāng)前時(shí)間戳和數(shù)據(jù)時(shí)間戳做全局一致性讀判斷,不依賴(lài)全局快照,性能更高,減輕中心化風(fēng)險(xiǎn)。

KunDB3.0集群的事務(wù)處理上限提升了6倍,達(dá)到300萬(wàn)TPS,完全滿足頭部互聯(lián)網(wǎng)業(yè)務(wù)場(chǎng)景的性能需求。

此外,KunDB3.0也對(duì)存儲(chǔ)層性能和分布式架構(gòu)做了持續(xù)優(yōu)化。存儲(chǔ)層采用了面向內(nèi)存的數(shù)據(jù)存儲(chǔ)與管理、無(wú)鎖內(nèi)存索引技術(shù)、悲觀與樂(lè)觀結(jié)合的并發(fā)控制技術(shù)、并行查詢(xún)技術(shù),實(shí)現(xiàn)了存儲(chǔ)層性能接近1倍的提升。結(jié)合分布式層在通信鏈路優(yōu)化為基于MySQL協(xié)議的通信,放棄了高開(kāi)銷(xiāo)的grpc通信;元數(shù)據(jù)存儲(chǔ)的改造為高吞吐的關(guān)系型存儲(chǔ),以及減少組件、管理組件精簡(jiǎn)為一個(gè)全局服務(wù),優(yōu)化了分布式層的開(kāi)銷(xiāo)。在4分片的拓?fù)湎拢琓PCC性能較2.0提升了60%。

跨機(jī)房容災(zāi)架構(gòu),任意時(shí)間點(diǎn)全局一致性恢復(fù)

在容災(zāi)方面,KunDB優(yōu)化了跨機(jī)房容災(zāi)架構(gòu),支持全鏈路高可用和全局一致性恢復(fù)。計(jì)算引擎完全無(wú)狀態(tài),擴(kuò)展便捷,可實(shí)現(xiàn)多節(jié)點(diǎn)部署;存儲(chǔ)引擎支持主備/Paxos復(fù)制,支持故障時(shí)主備切換;元數(shù)據(jù)服務(wù)也都是基于多數(shù)派協(xié)議支持故障時(shí)自動(dòng)選主,實(shí)際部署時(shí)避免了單節(jié)點(diǎn)部署的風(fēng)險(xiǎn)。通過(guò)跨機(jī)房的副本數(shù)據(jù)強(qiáng)同步,保證了機(jī)房級(jí)故障時(shí),恢復(fù)點(diǎn)目標(biāo)RPO=0。

通過(guò)副本可讀技術(shù),最大化利用每個(gè)角色提升系統(tǒng)吞吐,并且支持基于業(yè)務(wù)負(fù)載和組件健康狀態(tài)的路由變化,提升系統(tǒng)穩(wěn)定性。

KunDB3.0支持物理備份與實(shí)時(shí)binlog備份,故障時(shí)可恢復(fù)過(guò)去任意時(shí)間點(diǎn)。新增的一致性備份恢復(fù)能力,基于時(shí)間戳信息保障數(shù)據(jù)庫(kù)恢復(fù)到最新的一致性點(diǎn),避免了分布式數(shù)據(jù)庫(kù)恢復(fù)后需要人為參與事務(wù)點(diǎn)對(duì)齊的難題。各分片獨(dú)立并發(fā)備份,每分鐘完成數(shù)GB數(shù)據(jù)備份,在高并發(fā)核心系統(tǒng)中,能夠有效降低備份對(duì)業(yè)務(wù)的影響。

保證全局事務(wù)的一體化實(shí)時(shí)AETP,同時(shí)提供高性能交易與分析服務(wù)能力

中國(guó)信通院2021年數(shù)據(jù)發(fā)展研究報(bào)告中指出,企業(yè)通常維護(hù)不同數(shù)據(jù)庫(kù)來(lái)支持聯(lián)機(jī)事務(wù)處理(OLTP)與聯(lián)機(jī)分析處理(OLAP)任務(wù),管理和維護(hù)成本高。基于創(chuàng)新的計(jì)算存儲(chǔ)框架的HTAP 數(shù)據(jù)庫(kù),能夠基于同一套引擎同時(shí)支撐業(yè)務(wù)系統(tǒng)運(yùn)行和分析決策場(chǎng)景,避免在傳統(tǒng)架構(gòu)中,在線與離線數(shù)據(jù)庫(kù)之間大量的數(shù)據(jù)交互,成為未來(lái)數(shù)據(jù)庫(kù)發(fā)展的趨勢(shì)之一。

KunDB3.0采用了基于分析引擎增強(qiáng)分布式事務(wù)處理引擎技術(shù)(ATEP),大幅提高了KunDB的數(shù)據(jù)分析能力,通過(guò)一個(gè)系統(tǒng)就可以同時(shí)提供高性能AP和TP服務(wù)能力。

對(duì)外提供統(tǒng)一的SQL引擎作為統(tǒng)一入口,簡(jiǎn)化用戶(hù)操作,數(shù)據(jù)在庫(kù)內(nèi)即可自動(dòng)同步、轉(zhuǎn)換,不需要繁瑣的ETL組件和ETL過(guò)程,數(shù)據(jù)無(wú)需出庫(kù)即可完成計(jì)算。同時(shí)提供統(tǒng)一數(shù)據(jù)類(lèi)型和方言支持,將多種數(shù)據(jù)庫(kù)語(yǔ)言變?yōu)橐环N語(yǔ)言,大大降低開(kāi)發(fā)和遷移成本。

針對(duì)不同程度的分析負(fù)載,通過(guò)全局優(yōu)化器自動(dòng)識(shí)別SQL,利用不同的引擎進(jìn)行處理,TP引擎和AP引擎根據(jù)工作負(fù)載做自動(dòng)路由和自動(dòng)查詢(xún)優(yōu)化,如針對(duì)復(fù)雜加工邏輯,則使用AP引擎分布式計(jì)算能力直接讀取KunDB上的數(shù)據(jù)進(jìn)行復(fù)雜計(jì)算;針對(duì)高并發(fā)明細(xì)檢索,則使用TP引擎提供服務(wù)。

使用行列混合存儲(chǔ)方案,列存提供給AP引擎支持高性能分析,同時(shí)列存作為T(mén)P庫(kù)的只讀副本,實(shí)時(shí)從行存同步事務(wù)最新數(shù)據(jù)庫(kù),延遲低于10s,保證了數(shù)據(jù)分析的時(shí)效性和全局一致性讀。

對(duì)于已經(jīng)部署了ArgoDB或KunDB的用戶(hù),可以直接升級(jí)到AETP數(shù)據(jù)庫(kù),無(wú)需改造業(yè)務(wù)和數(shù)據(jù)庫(kù)的交互方式,實(shí)現(xiàn)快速平滑升級(jí)。

通過(guò)不斷的打磨和對(duì)業(yè)務(wù)場(chǎng)景不斷的落地實(shí)踐,星環(huán)科技關(guān)系型數(shù)據(jù)庫(kù)ArgoDB和KunDB已經(jīng)在金融、政務(wù)、能源、醫(yī)療、交通等多個(gè)行業(yè)應(yīng)用,成功替代Oracle、MySQL等傳統(tǒng)業(yè)務(wù)數(shù)據(jù)庫(kù)。未來(lái),星環(huán)科技將繼續(xù)深耕數(shù)據(jù)庫(kù)領(lǐng)域,通過(guò)不斷的技術(shù)創(chuàng)新和應(yīng)用創(chuàng)新,為用戶(hù)提供更完備功能,更高性能、更穩(wěn)定可靠的國(guó)產(chǎn)化數(shù)據(jù)庫(kù)產(chǎn)品。

 


猜你喜歡
原創(chuàng)

連續(xù)兩年入選全球權(quán)威IT研報(bào),星環(huán)科技火出圈了

星環(huán)科技

關(guān)注IT圈的應(yīng)該都知道,業(yè)內(nèi)普遍認(rèn)可度最高、最想上的報(bào)告肯定是Gartner家發(fā)布的,因?yàn)閺乃麄冞^(guò)往...

2022-09-30

激發(fā)數(shù)據(jù)要素價(jià)值,星環(huán)科技Navier讓數(shù)據(jù)安全交易

星環(huán)科技

近期發(fā)展的《數(shù)字中國(guó)發(fā)展報(bào)告(2021年)》顯示,2017年到2021年,我國(guó)數(shù)據(jù)產(chǎn)量從2.3ZB增...

2022-09-28

中國(guó)銀行上海分行×星環(huán)科技發(fā)布金融風(fēng)控聯(lián)合解決方案

星環(huán)科技中國(guó)銀行

隨著銀行信用風(fēng)險(xiǎn)不斷累積并加快暴露,風(fēng)險(xiǎn)類(lèi)型呈現(xiàn)多元化特征,資產(chǎn)質(zhì)量形式日益嚴(yán)峻;同時(shí)數(shù)字化、線上化...

2022-09-27

新質(zhì)生產(chǎn)力賦能,2024生命科技大會(huì)奏響琴澳和鳴新華章

醫(yī)療健康2024生命科技大會(huì)

隨著科技水平的飛速發(fā)展,各行各業(yè)均在變革中迎來(lái)信息化時(shí)代的新氣象,醫(yī)療領(lǐng)域亦是如此。

2024-12-03

中藥新藥納入醫(yī)保名錄,生物創(chuàng)新藥獲批臨床試驗(yàn)康緣藥業(yè)研發(fā)成果近期佳音頻傳

上市公司康緣藥業(yè)

11月28日,國(guó)家醫(yī)保局發(fā)布《國(guó)家基本醫(yī)療保險(xiǎn)、工傷保險(xiǎn)和生育保險(xiǎn)藥品目錄(2024年)》,本次調(diào)整...

2024-12-03

昌發(fā)展集團(tuán)跟投齊禾生科A輪融資,推動(dòng)合成生物領(lǐng)域產(chǎn)業(yè)化落地

創(chuàng)新創(chuàng)業(yè)齊禾生科

近日,蘇州齊禾生科生物科技有限公司(以下簡(jiǎn)稱(chēng)“齊禾生科”)完成超2億元人民幣A輪融資。

2024-12-03

量化派入選“投資家網(wǎng)”2024年度最具投資價(jià)值企業(yè)榜單

創(chuàng)新創(chuàng)業(yè)量子數(shù)科

在數(shù)字時(shí)代背景下,創(chuàng)新企業(yè)正成為推動(dòng)中國(guó)經(jīng)濟(jì)高質(zhì)量發(fā)展的重要力量。

2024-12-03

百利好美聯(lián)儲(chǔ)降息預(yù)期放緩 黃金震蕩前行

金融科技百利好

在全球經(jīng)濟(jì)不確定性增加的背景下,美聯(lián)儲(chǔ)的政策動(dòng)向?qū)S金市場(chǎng)的影響愈發(fā)顯著。

2024-12-03

將踐行ESG融入企業(yè)戰(zhàn)略與管理,叮當(dāng)健康榮獲2024年社會(huì)責(zé)任先鋒企業(yè)獎(jiǎng)

上市公司叮當(dāng)健康

當(dāng)前,環(huán)境、社會(huì)和治理(ESG)正成為驅(qū)動(dòng)企業(yè)高質(zhì)量發(fā)展的重要因素,綠色低碳也成為促進(jìn)企業(yè)可持續(xù)發(fā)展...

2024-12-03

Adcentrx宣布Nectin-4 ADC ADRX-0706完成1b臨床擴(kuò)展階段首例受試者給藥

醫(yī)療健康AdcentrxTherapeutics

上海和加利福尼亞州圣迭戈,2024年12月3日,Adcentrx Therapeutics(以下簡(jiǎn)稱(chēng)...

2024-12-03

“碰一下點(diǎn)餐”火了!又一牛肉面頭部品牌宣布全面接入

支付寶金融科技

隨著“碰一下”覆蓋場(chǎng)景的逐步擴(kuò)大,越來(lái)越多商家推出“碰一下”相關(guān)服務(wù)。

2024-12-03

投資家網(wǎng)(www.51baobao.cn)是國(guó)內(nèi)領(lǐng)先的資本與產(chǎn)業(yè)創(chuàng)新綜合服務(wù)平臺(tái)。為活躍于中國(guó)市場(chǎng)的VC/PE、上市公司、創(chuàng)業(yè)企業(yè)、地方政府等提供專(zhuān)業(yè)的第三方信息服務(wù),包括行業(yè)媒體、智庫(kù)服務(wù)、會(huì)議服務(wù)及生態(tài)服務(wù)。長(zhǎng)按右側(cè)二維碼添加"投資哥"可與小編深入交流,并可加入微信群參與官方活動(dòng),趕快行動(dòng)吧。

分化浪潮中的堅(jiān)守與突破 | 第19屆中國(guó)投資年會(huì),即將啟幕

分化浪潮中的堅(jiān)守與突破 | 第19屆中國(guó)投資年會(huì),即將啟幕

在時(shí)代的浩渺長(zhǎng)河中,“分化”宛如一條隱匿的脈絡(luò),貫穿于萬(wàn)物的生長(zhǎng)、發(fā)展與變遷。從生命的進(jìn)化到文明的演...

產(chǎn)業(yè)與技術(shù)雙向奔赴,具身智能產(chǎn)業(yè)供需交流會(huì)成功舉辦!

產(chǎn)業(yè)與技術(shù)雙向奔赴,具身智能產(chǎn)業(yè)供需交流會(huì)成功舉辦!

具身智能產(chǎn)業(yè)場(chǎng)景探索正當(dāng)時(shí)!

第二屆中匈可再生能源、新材料商業(yè)投資峰會(huì)將盛大啟幕

第二屆中匈可再生能源、新材料商業(yè)投資峰會(huì)將盛大啟幕

第二屆中匈可再生能源、新材料商業(yè)投資峰會(huì)于2025年4月9日在匈牙利布達(dá)佩斯盛大啟幕。

雕刻耐心|第18屆中國(guó)投資年會(huì)·有限合伙人峰會(huì)在滬召開(kāi)

雕刻耐心|第18屆中國(guó)投資年會(huì)·有限合伙人峰會(huì)在滬召開(kāi)

“中國(guó)投資年會(huì)”作為私募股權(quán)行業(yè)的年度盛會(huì),已成功舉辦了18屆,吸引了全國(guó)VC/PE領(lǐng)域從業(yè)者的廣泛...

主站蜘蛛池模板: 欧美人成在线观看 | 色黄啪啪18周岁以下禁止观看 | 九九热久久免费视频 | 九九成人 | 亚洲欧美国产精品 | 在线播放一区二区精品产 | 国产网站91 | 久久国产精品久久久久久久久久 | 在线观看亚洲专区 | 99久免费精品视频在线观看2 | 成人久久久观看免费毛片 | 香蕉视频在线观看黄 | 国产欧美日韩综合一区二区三区 | 狼人 成人 综合 亚洲 | 欧美aaa| 精品综合久久久久久蜜月 | a毛片免费视频 | 欧美成人影院在线观看三级 | 一区二区三区在线观看免费 | 91日本在线观看亚洲精品 | 国产成人精品.一二区 | 真实国产普通话对白乱子子伦视频 | 国产高清a毛片在线看 | 男女无遮掩做爰免费视频软件 | 欧美一级片网址 | 亚洲美女高清aⅴ视频免费 亚洲美女黄色片 | 亚洲男人的天堂久久无 | 中文字幕乱码视频32 | avtom影院入口永久在线 | 精品丝袜国产自在线拍亚洲 | 亚洲精品日本高清中文字幕 | 欧美日韩色 | www.久久在线 | 国产精品一| 国产激情视频在线播放 | www欧美com| 亚洲九九视频 | 18lxxlxx日本| 午夜免费69性视频爽爽爽 | 日本成人免费在线视频 | 午夜67194|