騰訊開源項目「應龍」成Apache頂級項目:前身長期服務微信支付,能hold住百萬億級數(shù)據(jù)流處理
一站式大數(shù)據(jù)集成框架
允中 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI
最新消息,由騰訊捐獻的一站式大數(shù)據(jù)集成框架Apache InLong,已從Apache孵化器畢業(yè)成為社區(qū)頂級項目。
這一消息由全球最大開源軟件基金會Apache軟件基金會宣布。Apache InLong也成為Apache社區(qū)首個一站式大數(shù)據(jù)集成頂級項目。
該項目可以為大數(shù)據(jù)開發(fā)者提供百萬億級數(shù)據(jù)流高性能處理能力,以及千億級數(shù)據(jù)流高可靠服務。
騰訊副總裁蔣杰表示:
我們很高興看到InLong踐行Apache Way,并以頂級項目的身份從Apache孵化器畢業(yè)。
騰訊致力于構(gòu)建開源生態(tài)系統(tǒng),讓全球開發(fā)者能夠平等便捷地利用開源代碼。作為騰訊最成功的開源項目之一,InLong廣泛應用于騰訊內(nèi)部海量業(yè)務以及外部的金融、政府等關(guān)鍵業(yè)務。未來,騰訊將持續(xù)為社區(qū)貢獻我們的力量,攜手全球開發(fā)者共同構(gòu)建繁榮的大數(shù)據(jù)生態(tài)系統(tǒng)。
值得一提的是,Apache項目想要“畢業(yè)”,都需經(jīng)過Apache軟件基金會的嚴格篩選,并經(jīng)由孵化器孵化,滿足一系列質(zhì)量要求。
從孵化器里畢業(yè)的頂級項目,表明該項目的社區(qū)和產(chǎn)品已根據(jù)ASF的精英流程和原則得到良好管理。
何為應龍:前身長期服務于微信支付
InLong的中文名為應龍,是中國神話中引流入海的神獸。
顧名思義,InLong在大數(shù)據(jù)社區(qū)生態(tài)負責的便是大數(shù)據(jù)接入集成。
InLong以騰訊內(nèi)部使用的TDBank為基礎,依托萬億級的數(shù)據(jù)攝取和處理能力,將數(shù)據(jù)采集、聚合、存儲、排序數(shù)據(jù)處理的全流程整合在一起。
除了可以提供自動、安全、可靠和高性能的數(shù)據(jù)傳輸能力,還支持基于流式的數(shù)據(jù)分析、建模和應用,幫助企業(yè)簡化數(shù)據(jù)處理的過程。
舉個例子,InLong作為一個基于SaaS的服務平臺,用戶可以選擇主題的數(shù)據(jù)發(fā)布和訂閱,來簡單快速地報告、傳輸和分發(fā)數(shù)據(jù),使用門檻大大降低。
同時InLong可以為100萬億級數(shù)據(jù)流提供高性能處理能力,為1000億級數(shù)據(jù)流提供高可靠服務,保障用戶享受到穩(wěn)定可靠的在線服務。
InLong還支持多種數(shù)據(jù)訪問方式,包括不同類型的消息隊列服務集成和實時數(shù)據(jù)提取、轉(zhuǎn)換、加載以及基于規(guī)則的排序功能。
此外,在服務方面,InLong為用戶提供統(tǒng)一的系統(tǒng)監(jiān)控和告警服務。通過細粒度的指標來促進數(shù)據(jù)可視化,用戶可以在統(tǒng)一的數(shù)據(jù)度量平臺中直接查看隊列的運行狀態(tài),有利于提高業(yè)務的主動性。
實際上,在騰訊內(nèi)部InLong項目原名TubeMQ,主要專注于高性能、低成本的消息隊列服務,并長期服務微信支付、騰訊視頻、廣點通等產(chǎn)品。
為了進一步釋放TubeMQ周邊的生態(tài)能力,騰訊將項目升級為InLong,專注打造一站式海量數(shù)據(jù)集成框架。
該項目于2019年11月進入 Apache 孵化器,2022 年6月畢業(yè)成為頂級項目。
目前, Apache InLong已經(jīng)發(fā)布第12個版本,騰訊大數(shù)據(jù) InLong 團隊和社區(qū)開發(fā)者一起,在孵化期間不斷更新和完善其功能,比如重構(gòu)InLong Sort模塊、新增數(shù)據(jù)節(jié)點、優(yōu)化初始化流程等,為社區(qū)和企業(yè)提供更多元化的開放解決方案。與此同時,InLong正在廣泛應用于廣告、支付、社交、游戲、人工智能等各個行業(yè)領域,為多領域客戶提供高效化便捷化服務。
Apache InLong副總裁Charles Zhang表示:
InLong的畢業(yè),標志著一個開放、多元、成熟的開源社區(qū)的成功建立。在未來的征程中,項目將繼續(xù)踐行“Apache Way”,通過社區(qū)的共同努力,助力更多企業(yè)數(shù)字化轉(zhuǎn)型?!?/p>
NextArch基金會TOC的Mark Shan也表達了祝賀:
恭喜 Apache InLong 作為 ASF TLP 畢業(yè)!InLong降低大數(shù)據(jù)使用門檻,期待InLong為社區(qū)和企業(yè)提供更多元化的開放解決方案。
騰訊作為國內(nèi)最早擁抱開源的科技公司之一,截至目前在 Github 上共發(fā)布了超過 160 個開源項目,獲得了超過40萬名開發(fā)者的關(guān)注和Star,穩(wěn)居全球開源企業(yè)貢獻榜前十。
目前,騰訊已經(jīng)是 Apache 基金會、Linux 基金會、CNCF、開放原子基金會等國際頂級開源基金會的重要成員,并向開源基金會捐贈了Angel、TubeMQ、TKE Stack、TencentOS Tiny 等項目。
在Apache基金會的大數(shù)據(jù)項目上,騰訊已經(jīng)為主流的Hadoop、Spark、Flink等項目貢獻了大量的特性和patch。
騰訊方面還表示,在內(nèi)部開源協(xié)同和自研上云戰(zhàn)略驅(qū)動下,騰訊將會通過騰訊云,開放更多的大數(shù)據(jù)以及AI領域的產(chǎn)品化能力,為更多開發(fā)者提供低成本、高性能的開發(fā)工具。
— 完 —