《電子技術應用》
您所在的位置:首頁 > 嵌入式技術 > 設計應用 > 公共元數據配置管理平臺設計
公共元數據配置管理平臺設計
2020年電子技術應用第1期
任李娟,盧 軍,郭 維
成都信息工程大學 軟件工程學院,四川 成都610225
摘要: 隨著互聯網快速發展,各平臺利用元數據來組織和管理平臺數據資源,平臺內平臺具有封閉性使得元數據資源分散、反復存儲,增大元數據共享難度,降低元數據利用率。為解決這一問題,提出公共元數據配置管理平臺,將公共元數據統一配置管理,利用Web Service技術提供配置與共享元數據服務,采用Redis內存數據庫提高數據共享效率。目前,已在氣象大數據平臺中運用了基于氣象公共元數據的配置管理平臺,其不僅提高了平臺公共元數據的利用率、節約存儲,也提高了服務的響應速度。同時,將配置管理平臺的主要功能抽象,使平臺設計可適用于其他類似的基于元數據的數據共享平臺。
中圖分類號: TN915.09;TP319
文獻標識碼: A
DOI:10.16157/j.issn.0258-7998.190761
中文引用格式: 任李娟,盧軍,郭維. 公共元數據配置管理平臺設計[J].電子技術應用,2020,46(1):100-103.
英文引用格式: Ren Lijuan,Lu Jun,Guo Wei. Public metadata configuration management platform design[J]. Application of Electronic Technique,2020,46(1):100-103.
Public metadata configuration management platform design
Ren Lijuan,Lu Jun,Guo Wei
Software Engineering Institute,Chengdu University of Information Technology,Chengdu 610225,China
Abstract: With the rapid development of the Internet, each platform often uses metadata to organize and manage system data resources. The system within the platform is closed so that metadata resources are dispersed and stored repeatedly, which increases the difficulty of metadata sharing and reduces the utilization of metadata. In order to solve this problem, this paper proposes a public metadata configuration management platform, which provides unified configuration and management of public metadata, provides configuration and shared metadata services by using Web Service technology, and improves data sharing efficiency by using Redis memory database. At present, a configuration management platform based on meteorological public metadata has been used in the meteorological big data platform, which not only improves the utilization of the platform common metadata, saves storage, but also improves the response speed of the service. This article abstracts the main functions of the configuration management platform, making the system design applicable to other similar metadata-based data sharing platforms.
Key words : metadata;Web Service;configuration;sharing;Redis

0 引言

    隨著信息技術不斷發展,各領域數據資源不斷擴大,數據量呈幾何增長,數據呈現多樣性。不同平臺之間元數據資源分散、資源反復存儲,使得數據共享難的問題日益嚴重。元數據是實現科學數據共享的4種方式之一[1],因此集中配置管理公共元數據為解決這一問題提供了有效途徑。元數據(Metadata)是“關于數據的數據”或“關于信息的信息”[2]。如年齡、身高、性格等就是描述人的元數據,可根據其推測人的樣子。元數據可以記錄數據的來龍去脈,可以把整個業務的工作流、信息流有效地管理起來,提高平臺的可擴展性[3]。而公共元數據是指在領域中可通用的并具有重要參照意義的元數據,其需要滿足一定的行業標準,標準中除要詳細列出實體與元素集以外,還要說明元數據標準適用范圍、參考標準、術語與定義、元數據分級、元數據性質、標識、格式和類型以及元數據擴展原則等[4]。元數據在科學數據領域中的研究與應用取得了較大進展,科學元數據標準的逐漸豐富和發展為元數據在科學數據不同領域的應用提供較為充分的工具和標準[5]。

    目前,元數據存儲分散使各平臺中元數據難以共享,元數據反復存儲浪費了存儲空間。為解決此問題,本文提出將公共元數據集中管理,通過Web Service技術提供對外的公共元數據配置服務與共享服務,并利用Redis內存數據庫來提高服務速度。實際上,平臺不僅保證了元數據的統一管理和高速共享,也簡化各平臺數據交換的流程,使平臺間只需開發簡單的接口調用和數據解析功能即可完成數據交互。

1 元數據配置管理研究現狀

    SUFI S等[6]認為元數據描述框架相比元數據內容標準,其承擔的指導性和框架性作用更強,不局限于特定領域的術語平臺限制,強調了數據描述框架在領域中的重要性,對元數據配置管理在領域中的指導性與框架性給予肯定。同時,Jian Qin等[7]指出,龐大的、復雜的標準和廣泛多樣的命名實踐是構建元數據基礎設施的主要障礙,而可移植是元數據方案“基礎結構”的必要條件或先決條件,因此在元數據配置管理上統一元數據標準是構建平臺的基礎。

    元數據的應用不僅能提高平臺的靈活性與適應性,強化其穩定性,也使平臺更易維護[8],同時利用元數據的整合,可提高平臺靈活性與適應性,提高數據質量控制力度[9]。在元數據的配置管理上,王國復等[10]對元數據在科學數據共享平臺的作用、元數據的分類、元數據的管理、元數據平臺和元數據的應用模型進行了闡述。隨后,張英俊[11]提出利用元數據的標準化來統一管理分布式的數據資源,通過網絡實現數據共享與服務,使得用戶能夠快速準確地獲取所需科學數據。進一步地,周寶平[12]提出元數據匯交、數據發布、元數據檢索以及多種方式的數據共享等功能。

    總的來說,國內外學者都已十分重視元數據的應用。目前,在統一元數據標準與跨平臺數據共享上的研究比較充分,但在元數據跨平臺配置管理與高效服務上的研究仍然不足。本文利用Web Service與Redis技術,設計了一種可跨平臺配置管理公共元數據并提供高效共享服務的平臺,有助于組織和管理海量數據資源,提高數據利用率。

2 元數據配置管理特點

    元數據配置管理平臺應具有以下特點:

    (1)數據適用性。平臺數據應采用行業通用標準,數據標準化可提高數據適用性,易與不同平臺進行數據交換。如氣象大數據平臺中,配置管理平臺采用國家氣象信息中心制定的我國氣象數據集元數據格式標準(草案)將元數據標準化,以適用于氣象大數據平臺建設和數據集的編目、歸檔、發布和交換等。

    (2)跨平臺性。平臺應具有跨平臺的特性,為數據匯交、數據共享提供可行性。元數據配置管理平臺作為平臺的基礎部分,元數據匯交與元數據的共享都依賴平臺跨平臺性。

    (3)高效性。平臺應具有高速響應并發訪問的能力,為不同平臺提供高效的在線元數據支持。元數據配置管理的目的是集中元數據資源,實現公共元數據的共享,提高元數據利用率。平臺的高效性提高了元數據共享效率,是平臺穩定運行的保障。

3 元數據配置管理平臺設計

    元數據是數據的基本信息,有助于數據的分類標注[13]。元數據的配置管理不僅能集中資源與節省存儲,還能幫助組織和管理平臺數據資源。公共元數據的配置管理是一個動態過程,既需要滿足公共元數據跨平臺的匯交,同時需要對配置信息進行審核,審核成功后的元數據需要通過接口為其他平臺提供數據共享服務。

3.1 平臺架構

    平臺是針對元數據集中化配置管理與共享而設計的,主要功能包括個人信息管理、配置管理、審核管理、接口管理、用戶管理。平臺架構圖如圖1所示。

jsj3-t1.gif

    管理員根據平臺中人員的安排,在用戶管理功能中對用戶信息進行維護,可以增加、刪除、修改和查詢用戶。當平臺人員離職后,管理員需要將該用戶狀態修改為離職,限制其登錄平臺以保證平臺數據的安全性。當平臺人員權限有所變化時,管理員需要及時修改信息,以便用戶正常使用平臺。

    審核員主要負責對配置后的公共元數據進行審核,也可以查看整個審核流程。審核員可分為多個級別,應具有一定的專業知識,以保證公共元數據的正確性。

    操作員可增加、刪除、修改、查看公共元數據,對元數據配置后,操作員可查看審核進度。操作員可以在接口管理中查看、配置、監測公共元數據采集接口與共享接口,也可以修改接口的發布狀態。其中,接口狀態為打開時其他平臺可以調用,狀態為關閉時其他平臺不可調用。

3.2 主要功能

3.2.1 配置管理

    配置管理分為配置元數據與查看審核功能。配置元數據功能中,配置方式分為新增、變更、廢止。由平臺人員根據業務需求在數據配置頁面對元數據進行配置,配置成功可查詢流程信息。新增時,平臺生成流程單并將新增的元數據存入臨時表中,直到流程審批成功才會存入正式表。變更與廢止時,平臺會生成流程單并拷貝正式表中被配置的元數據到臨時表中,直到流程審批成功后,才會修改正式表中的數據。查看審核功能用于操作員查看審核狀態,以便實時跟蹤元數據審核情況。

    配置成功后的待審批元數據將存入到臨時表中,等待流程審批人員審核通過后再將其存入正式表中。平臺使用臨時表存儲,既能實現對元數據配置進行監控,也能減少數據誤配置造成的數據污染。配置管理流程圖如圖2所示。

jsj3-t2.gif

3.2.2 審核管理

    審核管理分為審核申請與查看審核流程功能。審核申請功能是具有相應權限的審核員對配置元數據后生成的申請進行審核。其中,元數據配置成功后便會對此配置信息生成對應的流程信息,每一級的審核員審核完成都會產生一條流程信息。查看審批流程功能用于跟蹤配置信息的審核過程,便于追溯配置過程。

    審核管理是元數據質量的保證,需要十分熟悉業務的人員才能進行審核,不正確的數據易造成參照錯誤,產生不可逆的影響。審核管理流程圖如圖3所示。

jsj3-t3.gif

3.2.3 接口管理

    接口管理分為配置接口、狀態管理與監測接口功能。配置接口功能主要用于管理接口的增加、刪除、修改、查詢操作。狀態管理功能是用于管理接口的狀態,狀態分為打開狀態與關閉狀態。監測接口用于操作員監測接口調用情況,打開的狀態下可以進行實時監控,關閉的情況下只能查看歷史監控信息,一般有調用頻度、數據狀況等。

    平臺中接口主要分為數據采集接口與數據共享接口兩類。具體地,兩類接口由平臺操作人員配置并發布,使用Web Service技術實現,使其他業務平臺通過網絡訪問,根據業務不同傳遞不同的參數。平臺發布接口后根據WSDL文檔,加入描述信息生成接口文檔,便于其他業務平臺使用。其中,WSDL文檔是用來描述Web 服務及Web服務通信過程的XML語言[14]。

    數據采集接口提供公共元數據配置服務,主要是供其他平臺調用以實現公共元數據的跨平臺配置。具體地,其他平臺根據接口文檔將需要配置的公共元數據信息拼接為XML格式并發送到Web服務器,Web服務器接收后根據請求參數后通過SOAP(Simple Object Access Protocol)發送數據包,并在分布式的服務器上調用相應Web Service。配置管理平臺服務器接收數據到請求數據后進行信息校驗,校驗成功后將配置的公共元數據存入臨時表中,并生成審核申請與流程信息,然后將結果集生成XML文檔返回[15]。

    數據共享接口提供公共元數據共享服務,主要是供不同平臺調用以實現公共元數據的跨平臺高效共享。具體地,其調用過程與數據采集接口相似,不同之處在于請求參數與數據處理過程上。在數據共享接口中,請求參數是用于定位共享的公共元數據,一般是數據分類等。同時,為提供高效共享服務,數據共享接口中的數據處理是先從Redis內存數據庫中查詢數據,不滿足時再讀取數據庫將數據取出并生成XML格式的查詢結果集返回,并將數據存入內存數據庫中。接口管理流程圖如圖4所示。

jsj3-t4.gif

3.3 平臺主要支撐技術

    配置管理平臺主要采用Web Service技術實現跨平臺接口發布,利用Redis內存數據庫來提高數據響應速度。

    Web Service是一種通過Web部署提供對業務功能訪問的技術,具有跨平臺、簡單和高度可集成能力等特點[16]。通常被定義為一組模塊化的API,可通過網絡進行調用,執行遠程平臺的請求服務。同時,Web Service為多層分布式應用平臺的構建創造了條件,使開發人員可以將來自不同地方的Web Service組裝起來, 并在應用程序中使用[17]。依據Web Service規范實施的平臺之間即使開發語言、平臺或內部協議不一致也可相互交換數據。Web Service的發現、訪問、集成和調用需要通過UDDI、WSDL、SOAP來完成[18]。具體地,Web服務客戶端應用程序通過名字、分類、標識符等從UDDI 注冊中心查詢所需的服務,一旦找到,客戶便從UDDI注冊中心獲取WSDL 文檔的位置信息,并按照WSDL 中發現的XML 模式生成一個SOAP 消息,發送給服務端。

    Redis是高性能的key-value數據庫,支持存儲類型有字符串、鏈表、集合、有序集合和哈希類型,為保證效率將數據緩存在內存中[19]。Redis數據庫具有持久化、多數據結構的支持、支持主從復制、Virtual Memory功能等特征[20]。Redis數據庫的數據模型是建立在外層,類似于其他結構化存儲平臺。不同于其他結構化存儲平臺的是,其支持在多種數據類型上做多種原子性操作,這也是Redis數據庫高效性的原因之一[21]。Redis基于內存的特性使其具有高速讀的優點,查詢響應時間為納秒級。

    平臺使用Web Service技術,提供數據采集接口、數據共享接口,使網絡連接的不同平臺可通過接口進行數據交互,實現了公共元數據的統一配置管理。同時,利用Redis內存數據庫的回收策略將超過設置的過期時間的數據淘汰,利用其基于內存的特性實現高速共享元數據,利用其持久化的特性也能提高數據的安全性。

4 結論

    公共元數據配置管理平臺使用Web Service技術解決跨平臺配置數據與共享數據,利用Redis內存數據庫提高公共元數據共享效率。平臺將公共元數據統一配置管理,提供統一參照,提供高效數據共享服務,解決元數據重復存儲難以共享的問題,節省硬件資源,節約人力。同時,平臺的設計有助于了解組織和管理平臺數據資源、提供數據發現、檢索服務。實際上,平臺的設計滿足跨平臺、可擴展性的要求,對其他類似的基于元數據的數據共享平臺具有一定參考意義。

參考文獻

[1] 王培正,張志強,吳一民.科學數據共享方式研究[J].科技管理研究,2010(17):201-204.

[2] 吳增祥,臧海佳,王國復.氣象科學數據與氣象數據集元數據[C]科學數據管理與共享.北京:中國科學技術出版社,2002.

[3] 謝益武,何宇峰,曹志英.基于模式的CWM元數據交換方法的研究[J].電子技術應用,2007,33(11):114-116,120.

[4] 王國復,徐楓,吳增祥.氣象元數據標準與信息發布技術研究[J].應用氣象學報,2005,16(1):115-121.

[5] 黃如花,邱春艷.國內外科學數據元數據研究進展[J].圖書與情報,2014(6):102-108.

[6] SUFI S,MATTHEWS B.A metadata model for the discovery and exploitation of scientific studies[M].Knowledge and Data Management in GRIDs.Springer US,2007.

[7] Jian Qin,Li Kal.How portable are the metadata standards for scientific data? A proposal for a metadata infrastructure[EB/OL].[2014-08-09].http://jianqin.metadataetc.org/wp-content/uploads/2013/08/DC2013-metadatad-portability.pdf.

[8] 王小奇,王英.分析電信資源管理的主要問題及元數據的應用策略[J].數據庫技術,2017(20):187-188.

[9] 余葉蘭.基于銀行數據倉庫的元數據管理體系研究[J].湖北第二師范學院學報,2017,34(2):38-40.

[10] 王國復,涂勇,王卷樂,等.科學數據共享中的元數據技術研究[J].中國科技資源導刊,2008,40(1):30-36.

[11] 張英俊.基于元數據技術的科學數據共享平臺設計與實現[J].太原科技,2008,177(10):9-11.

[12] 周寶平.論科學數據共享平臺的設計與實現[J].山西科技,2010,25(2):48-49.

[13] 趙卓寧,李湘,舒紅平,等.氣象大數據資源匯交可視化分析研究[J].氣象科技進展,2018,8(1):203-207,263.

[14] 于洪波,劉鴻飛,方麗英,等.基于Web服務的物聯接入系統設計[J].電子技術應用,2015,41(7):33-36,43.

[15] 焦圣明,嚴明良,郭靜,等.基于WebService的分布式交通氣象信息共享技術研究[J].計算機工程與科學,2012,24(3):196-200.

[16] 胡澤,廖聞劍,彭艷兵.WebService技術研究及應用[J].硅谷,2009(5):48.

[17] 龔小勇,羅軍.Web Service技術在開發多層分布式數據庫系統中的應用研究[J].計算機應用研究,2004,21(8):55-57.

[18] 甄少鵬.淺談WebService與主流實現技術框架[J].湖南農機,2012,39(1):62,64.

[19] 曾超宇,李金香.Redis在高速緩存系統中的應用[J].微型機與應用,2013,32(12):11-13.

[20] 楊曉軍,臧飛,李春雷.云計算在軍事領域中的應用分析[J].電子技術應用,2018,44(6):129-132,137.

[21] 馬豫星.Redis數據庫特性分析[J].物聯網技術,2015(3):105-106.




作者信息:

任李娟,盧  軍,郭  維

(成都信息工程大學 軟件工程學院,四川 成都610225)

此內容為AET網站原創,未經授權禁止轉載。
全部双色球号码查询 香港助民两码中特 nba免费直播 陕西麻将叫什么 在家网上兼职赚钱的 麻将游戏单机版 做什么网站赚钱 德甲历届射手榜 韩国28开奖结果 德甲联赛什么时候开始 九游大厅炸金花神器软件