來源:中國電商物流網 發布時間:2019-11-27 9:28
數據是數字化轉型的基礎,缺少數據支撐的數字化藍圖如空中樓閣,難以經受市場的考驗。無論是從信息化向數字化邁進的傳統企業,還是IT成熟度較高的新興行業,日志數據都是不可或缺的信息來源,其重要程度不亞于IT監控數據和APM性能數據。而搭建高性能日志分析平臺,也是IT部門確保數字業務高效運轉的重要手段。
日志數據中記錄了豐富的信息,為問題定位和故障預測提供詳細的數據,在運維中發揮著重要的作用。通過對日志進行分析,運維人員能夠了解服務器、軟硬件、用戶行為等詳細信息,從而快速發現故障原因及時告警或者對未發生的故障進行預警,提升運維的效率。
目前,企業日志數據的應用普遍面臨著統一管理、海量日志數據處理、安全合規、數據價值挖掘等挑戰:
·日志統一管理:業務系統多、數據離散、日志種類多、字段定義未標準化,無法統一管理;同時日志分散不方便查看、日志搜索操作復雜且效率低。
·海量日志數據處理:在每天TB級以上的數據增量下,傳統解決方案的擴展性和穩定性無法保證。
·安全合規:對運維人員的違規操作、系統運行異常、設備故障等安全事件缺乏監控能力。
·日志數據的價值挖掘:日志數據中蘊含大量有價值內容,對數據價值利用不足,僅停留在被動排障階段,無法對業務和IT主動感知,業務異常無法及時發現。
以云智慧服務的某國內500強企業為例,該企業承擔著產業鏈上下游數百家企業海量電子信息的實時匯聚和處理,每天新生成日志數據達到數十TB,而且分布式交易系統調用關系復雜,如何快速解析檢索日志、審計追溯交易、快速定位故障、及時發現安全隱患都是該企業IT部門亟需解決的難題。
依托自研的DOLA產品,云智慧為該企業搭建了高性能智能日志分析平臺,其日志處理能力達到以下性能指標:
·支持5萬/秒并發數據實時分析處理,數據傳輸和平臺解析處理吞吐量:540MB/s,處理延時在300毫秒以內;
·秒級查詢全量24小時的實時日志數據,實時日志搜索耗時<1s; 7日內數據積累的基礎上的響應延時<30s;
·單點客戶端平均傳輸速度> 1萬 EPS(Event per second);
·采用高性能的分布式列式存儲數據庫,服務器數據生成能力在100MB/s以上,且數據完整性100%;
·擴展性:支持線性擴容,可視化配置/啟停處理節點,每秒處理數據量支持線性增加;
·可插拔:所有采集器均采用可插拔設計,且所有解析器均支持二次開發擴展;
DOLA,即Digital Operation Log Analytics,是云智慧的數字化運維日志分析產品。DOLA產品基于大數據技術與智能算法,能夠實現離散日志數據的統一采集、處理、檢索、模式識別以及可視化分析,可應用于統一的日志管理、基于日志的運維監控與分析、安全審計與合規、各種業務分析等運維場景。
自主研發的DOLA日志采集器以及Filebeat、 Logstash等多種開源日志采集器,能夠對來自網絡設備、安全設備、操作系統、數據庫、中間件、業務系統的離散的日志數據進行全面、有效、集中的采集,適配多種數據庫,操作簡便,幫助客戶減少日志采集的時間與人力成本。
云智慧DOLA產品廣泛適用于以下應用場景:
·統一日志管理:企業日志具有跨平臺、種類繁多、數據量大等特點,為了解決日志分散不方便查看、日志搜索操作復雜效率低下、日志利用率低、無法幫助運維人員進行問題分析與定位,需要對日志進行統一的管理。DOLA能夠提供一站式的統一日志管理服務,實現離散日志的統一采集、處理、存儲、歸檔以及查詢,降低運維人員查找日志的成本,避免?為登錄服務器誤操作引發的生產故障。
·基于日志的調用鏈跟蹤:調用鏈中包含了從源頭請求(比如前端網頁請求、無線客戶端請求等)到底層系統(比如數據庫、分布式緩存等)的所有中間環節,DOLA能夠實現無侵入式的數據收集,幫助運維人員快速分析系統性能消耗的原因、定位異常并解決問題。
·基于日志模式的異常識別:企業日志種類繁多、數量巨大、產生速度快,如何快速從海量日志中獲取信息進行異常定位是日志分析中的一大痛點。DOLA基于日志模式對異常進行識別,能夠幫助運維人員快速找出自己關心的日志類型,或者發現異常日志,發出告警,縮短問題發現的時間。
·指標的異常檢測:很多業務指標的數據具有周期性和季節性,傳統的通過人工設置固定閾值的告警方式,不僅費時費力,且嚴重依賴運維人員的經驗,容易產生誤報以及漏報。DOLA通過動態基線算法對日志中的指標數據進行智能異常檢測,直接識別異常的業務系統或者IT系統,能夠大幅度減少人工閾值的配置工作,提升告警的準確率。
特別提醒:本網內容轉載自其他媒體,目的在于傳遞更多信息,并不代表本網贊同其觀點。其原創性以及文中陳述文字和內容未經本站證實,對本文以及其中全部或者部分內容、文字的真實性、完整性、及時性本站不作任何保證或承諾,并請自行核實相關內容。本站不承擔此類作品侵權行為的直接責任及連帶責任。如若本網有任何內容侵犯您的權益,請及時聯系我們,本站將會在24小時內處理完畢。