作業(yè)幫受邀參加CCF夜鶯開發(fā)者創(chuàng)新論壇 分享監(jiān)控數(shù)據(jù)治理的實踐

日前，由中國計算機學會（CCF）主辦，CCF開源發(fā)展委員會及夜鶯項目開源社區(qū)承辦的第二屆 CCF 夜鶯開發(fā)者創(chuàng)新論壇在京召開。本屆論壇聚焦可觀測性數(shù)據(jù)治理、標準化、可擴展性、eBPF、AI提效、故障診斷等方向，助力推動可觀測性技術(shù)的研究落地。作業(yè)幫作為國內(nèi)領(lǐng)先的教育科技公司，在數(shù)據(jù)治理領(lǐng)域有著豐富的實踐經(jīng)驗，作業(yè)幫運維負責人聶安在論壇上從技術(shù)運營視角分享了監(jiān)控數(shù)據(jù)治理的實踐。

隨著業(yè)務的高速發(fā)展以及數(shù)據(jù)分析體系的日益完善,數(shù)據(jù)成為業(yè)務日常運作中重要的指南針和風向標。觀測數(shù)據(jù)的生命周期能夠通過全生命周期管理和透明化管理，提升數(shù)據(jù)資產(chǎn)的價值，確保數(shù)據(jù)質(zhì)量和合規(guī)性。在分享中，聶安以作業(yè)幫觀測數(shù)據(jù)Metric為例，介紹了數(shù)據(jù)生命周期治理的要點。

觀測數(shù)據(jù)的生命周期覆蓋了數(shù)據(jù)的整個生命周期，一般包括建模、生產(chǎn)、收集、處理、存儲、使用這幾個環(huán)節(jié)，確保數(shù)據(jù)的準確性、一致性、安全性和合規(guī)性。此外，數(shù)據(jù)生命周期治理是一個持續(xù)的過程，需要企業(yè)從數(shù)據(jù)的提取、治理到安全保障等各個環(huán)節(jié)進行精心設(shè)計和規(guī)劃。

作業(yè)幫的數(shù)據(jù)生命周期治理專注于多個層面，包括策略制定、數(shù)據(jù)分類、存儲、安全性和質(zhì)量檢查。從觀測數(shù)據(jù)的全生命周期來看，各個環(huán)節(jié)應該如何治理？聶安介紹，數(shù)據(jù)生產(chǎn)階段，盡量利舊，在服務治理框架層面統(tǒng)一埋點；數(shù)據(jù)收集階段，引入 pipeline，比如 telegraf，統(tǒng)一規(guī)范化指標命名；數(shù)據(jù)處理階段，標簽 enrichment，流式聚合，場景化聚合；存儲使用階段，建議參考數(shù)據(jù)分析領(lǐng)域的實踐思路。

聶安在分享的最后提到，從生命周期的視角看，觀測只是數(shù)據(jù)分析的一個子域，它還很年輕、理念還在不斷演化。要充分做好企業(yè)通盤的數(shù)據(jù)分析，強化數(shù)據(jù)觀測的價值。作業(yè)幫技術(shù)團隊服務于作業(yè)幫所有業(yè)務，經(jīng)過多年的積累，在語音識別、自然語言處理、圖像和OCR識別、大數(shù)據(jù)等技術(shù)領(lǐng)域擁有超200+的高精尖技術(shù)專利。

生成海報