源 / 阿里技術 文 / 薇拉 編者導讀:知識圖譜的構建技術主要有自頂向下和自底向上兩種。其中自頂向下構建是指借助百科類網站等結構化數據源,從高質量數據中提取本體和模式信息,加入到知識庫里。而自底向上構建,則是借助一定的技術手段,從公開采集的數據中提取出資源模式,選擇其中置信度較高的信息,加入到知識庫中。 在本文中,筆者主要想分享一下自底向上構建知識圖譜的全過程,拋磚引玉,歡迎大家交流。 “The world is not made of strings , but is made of things.” 知識圖譜,是結構化的語義知識庫,用于迅速描述物理世界中的概念及其相互關系,通過將數據粒度從document級別降到data級別,聚合大量知識,從而實現知識的快速響應和推理。 當下知識圖譜已在工業領域得到了廣泛應用,如搜索領域的Google搜索、百度搜索,社交領域的領英經濟圖譜,企業信息領域的天眼查企業圖譜等。 在知識圖譜技術發展初期,多數參與企業和科研機構主要采用自頂向下的方式構建基礎知識庫,如Freebase。隨著自動知識抽取與加工技術的不斷成熟,當前的知識圖譜大多采用自底向上的方式構建,如Google的Knowledge Vault和微軟的Satori知識庫。 1、定義 俗話說:“看人先看臉。”在我們深入了解知識圖譜之前,讓我們先來看一下它長什么樣子! 如圖所示,你可以看到,如果兩個節點之間存在關系,他們就會被一條無向邊連接在一起,那么這個節點,我們就稱為實體(Entity),它們之間的這條邊,我們就稱為關系(Relationship)。 知識圖譜的基本單位,便是“實體(Entity)-關系(Relationship)-實體(Entity)”構成的三元組,這也是知識圖譜的核心。 2、數據類型和存儲方式 知識圖譜的原始數據類型一般來說有三類(也是互聯網上的三類原始數據):
如何存儲上面這三類數據類型呢?一般有兩種選擇,一個是通過RDF(資源描述框架)這樣的規范存儲格式來進行存儲,比較常用的有Jena等。 還有一種方法,就是使用圖數據庫來進行存儲,常用的有Neo4j等。 那你可能會問我了,你不就是一大堆的三元組嗎,用關系數據庫來存儲不也一樣嘛。 是的,用關系數據庫來存儲,尤其是存儲簡單的知識圖譜,從技術上來說是完全沒問題的。 但需要注意的是,一旦知識圖譜變復雜,圖數據庫在關聯查詢的效率上會比傳統的關系數據存儲方式有顯著的提高。當我們涉及到2,3度的關聯查詢,基于知識圖譜的查詢效率會高出幾千倍甚至幾百萬倍。 除此之外,基于圖的存儲在設計上會非常靈活,一般只需要局部的改動即可。 因此如果你的數據量較大,還是建議直接用圖數據庫來進行存儲的。 3、知識圖譜的架構 知識圖譜的架構主要可以被分為:
3.1 邏輯架構 在邏輯上,我們通常將知識圖譜劃分為兩個層次:數據層和模式層。
如果還是有點模糊,可以看看這個例子: 模式層:實體-關系-實體,實體-屬性-性值 數據層:比爾蓋茨-妻子-梅琳達·蓋茨,比爾蓋茨-總裁-微軟 3.2 技術架構 知識圖譜的整體架構如圖所示,其中虛線框內的部分為知識圖譜的構建過程,同時也是知識圖譜更新的過程。 別緊張,讓我們順著這張圖來理一下思路。首先我們有一大堆的數據,這些數據可能是結構化的、非結構化的以及半結構化的,然后我們基于這些數據來構建知識圖譜,這一步主要是通過一系列自動化或半自動化的技術手段,來從原始數據中提取出知識要素,即一堆實體關系,并將其存入我們的知識庫的模式層和數據層。 構建知識圖譜是一個迭代更新的過程,根據知識獲取的邏輯,每一輪迭代包含三個階段:
4、構建技術 前面我們已經說過了,知識圖譜有自頂向下和自底向上兩種構建方式,這里提到的構建技術主要是自底向上的構建技術。 如前所述,構建知識圖譜是一個迭代更新的過程,根據知識獲取的邏輯,每一輪迭代包含三個階段:
下面我們依次來對每一個步驟進行介紹。(長文預警) 4.1 信息抽取 信息抽取(infromation extraction)是知識圖譜構建的第1步,其中的關鍵問題是:如何從異構數據源中自動抽取信息得到候選指示單元? 信息抽取是一種自動化地從半結構化和無結構數據中抽取實體、關系以及實體屬性等結構化信息的技術。 涉及的關鍵技術包括:實體抽取、關系抽取和屬性抽取。 ★ 4.1.1 實體抽取 實體抽取,也稱為命名實體識別(named entity recognition,NER),是指從文本數據集中自動識別出命名實體。 比如在下圖中,通過實體抽取我們可以從其中抽取出三個實體——“Steve Balmer”, 'Bill Gates',和'Microsoft'。 實體抽取的研究歷史主要是從面向單一領域進行實體抽取,逐步跨步到面向開放域(open domain)的實體抽取。 ★ 4.1.2 關系抽取 文本語料經過實體抽取之后,得到的是一系列離散的命名實體,為了得到語義信息,還需要從相關語料中提取出實體之間的關聯關系,通過關系將實體聯系起來,才能夠形成網狀的知識結構。這就是關系抽取需要做的事,如下圖所示。 研究歷史:
★ 4.1.3 屬性抽取 屬性抽取的目標是從不同信息源中采集特定實體的屬性信息,如針對某個公眾人物,可以從網絡公開信息中得到其昵稱、生日、國籍、教育背景等信息。 研究歷史:
4.2 知識融合 通過信息抽取,我們就從原始的非結構化和半結構化數據中獲取到了實體、關系以及實體的屬性信息。 如果我們將接下來的過程比喻成拼圖的話,那么這些信息就是拼圖碎片,散亂無章,甚至還有從其他拼圖里跑來的碎片、本身就是用來干擾我們拼圖的錯誤碎片。
那么如何解決這一問題,就是在知識融合這一步里我們需要做的了。 知識融合包括2部分內容:
★ 4.2.1 實體鏈接 實體鏈接(entity linking)是指對于從文本中抽取得到的實體對象,將其鏈接到知識庫中對應的正確實體對象的操作。 其基本思想是首先根據給定的實體指稱項,從知識庫中選出一組候選實體對象,然后通過相似度計算將指稱項鏈接到正確的實體對象。 研究歷史:
實體鏈接的流程:
★ 4.2.2 知識合并 在前面的實體鏈接中,我們已經將實體鏈接到知識庫中對應的正確實體對象那里去了,但需要注意的是,實體鏈接鏈接的是我們從半結構化數據和非結構化數據那里通過信息抽取提取出來的數據。 那么除了半結構化數據和非結構化數據以外,我們還有個更方便的數據來源——結構化數據,如外部知識庫和關系數據庫。 對于這部分結構化數據的處理,就是我們知識合并的內容啦。一般來說知識合并主要分為兩種:
4.3 知識加工 經過剛才那一系列步驟,我們終于走到了知識加工這一步了! 感覺大家可能已經有點暈眩,那么讓我們再來看一下知識圖譜的這張架構圖。 在前面,我們已經通過信息抽取,從原始語料中提取出了實體、關系與屬性等知識要素,并且經過知識融合,消除實體指稱項與實體對象之間的歧義,得到一系列基本的事實表達。 然而事實本身并不等于知識。要想最終獲得結構化,網絡化的知識體系,還需要經歷知識加工的過程。 知識加工主要包括3方面內容:本體構建、知識推理和質量評估。 ★ 4.3.1 本體構建 本體(ontology)是指工人的概念集合、概念框架,如“人”、“事”、“物”等。 本體可以采用人工編輯的方式手動構建(借助本體編輯軟件),也可以以數據驅動的自動化方式構建本體。因為人工方式工作量巨大,且很難找到符合要求的專家,因此當前主流的全局本體庫產品,都是從一些面向特定領域的現有本體庫出發,采用自動構建技術逐步擴展得到的。 自動化本體構建過程包含三個階段:
比如對下面這個例子,當知識圖譜剛得到“阿里巴巴”、“騰訊”、“手機”這三個實體的時候,可能會認為它們三個之間并沒有什么差別,但當它去計算三個實體之間的相似度后,就會發現,阿里巴巴和騰訊之間可能更相似,和手機差別更大一些。 這就是第一步的作用,但這樣下來,知識圖譜實際上還是沒有一個上下層的概念,它還是不知道,阿里巴巴和手機,根本就不隸屬于一個類型,無法比較。因此我們在實體上下位關系抽取這一步,就需要去完成這樣的工作,從而生成第三步的本體。 當三步結束后,這個知識圖譜可能就會明白,“阿里巴巴和騰訊,其實都是公司這樣一個實體下的細分實體。它們和手機并不是一類。” ★ 4.3.2 知識推理 在我們完成了本體構建這一步之后,一個知識圖譜的雛形便已經搭建好了。但可能在這個時候,知識圖譜之間大多數關系都是殘缺的,缺失值非常嚴重,那么這個時候,我們就可以使用知識推理技術,去完成進一步的知識發現。 比如在下面這個例子里: 我們可以發現:如果A是B的配偶,B是C的主席,C坐落于D,那么我們就可以認為,A生活在D這個城市。 根據這一條規則,我們可以去挖掘一下在圖里,是不是還有其他的path滿足這個條件,那么我們就可以將AD兩個關聯起來。除此之外,我們還可以去思考,串聯里有一環是B是C的主席,那么B是C的CEO、B是C的COO,是不是也可以作為這個推理策略的一環呢? 當然知識推理的對象也并不局限于實體間的關系,也可以是實體的屬性值,本體的概念層次關系等。 比如:
這一塊的算法主要可以分為3大類,基于邏輯的推理、基于圖的推理和基于深度學習的推理。 ★ 4.3.3 質量評估 質量評估也是知識庫構建技術的重要組成部分,這一部分存在的意義在于:可以對知識的可信度進行量化,通過舍棄置信度較低的知識來保障知識庫的質量。 好啦,在質量評估之后,你是不是想說,媽耶知識圖譜終于構建完畢了。終于可以松一口氣了。 好吧,實不相瞞,知識圖譜這個寶寶目前雖然我們構建成功了。 但是!你家寶寶不吃飯的啊!你家寶寶不學習的啊! 所以,讓我們冷靜一下,乖乖進入知識更新這一步…… 4.4 知識更新 從邏輯上看,知識庫的更新包括概念層的更新和數據層的更新。
知識圖譜的內容更新有兩種方式:
5、知識圖譜的應用 好了!終于終于!知識圖譜的構建方式我們就此結束了! 為了讓大家不立刻棄療,讓我們來看看知識圖譜能做到什么,以及目前已經做到了什么~
事實上,知識圖譜的應用遠不止于此。在我看來,這個世界就是一張巨大的知識圖譜,是無數個實體關系對,這兩年工業界對圖數據庫、知識圖譜的巨大需求也同樣反映出了這一點。 就像這篇文章開頭說的那句一樣, “The world is not made of strings , but is made of things.” [1] 劉嶠, 李楊, 段宏,等. 知識圖譜構建技術綜述[J]. 計算機研究與發展, 2016, 53(3):582-600. |
|