摘要:
論文論述了利用機(jī)器學(xué)習(xí)的相關(guān)技術(shù),整合監(jiān)督相關(guān)數(shù)據(jù),提取在押人員和歷史人員的相關(guān)特征和風(fēng)險評估表特征,利用大數(shù)據(jù)、機(jī)器學(xué)習(xí)、深度學(xué)習(xí)技術(shù),研發(fā)和建設(shè)了一套監(jiān)所人員風(fēng)險評估算法模型。
大數(shù)據(jù)是一種手段,并不能無所不包、無所不用。研究并利用大數(shù)據(jù)技術(shù)的根本目的在于用好數(shù)據(jù),通過挖掘海量數(shù)據(jù)中的隱藏價值,實(shí)現(xiàn)數(shù)據(jù)賦能業(yè)務(wù)。大數(shù)據(jù)建模本質(zhì)上是一個機(jī)器學(xué)習(xí)的過程,機(jī)器學(xué)習(xí)是一門研究怎樣使用數(shù)據(jù)思維解決問題的學(xué)科,它的原理和人類思維非常相似,人類是基于經(jīng)驗(yàn)對規(guī)律進(jìn)行總結(jié)和歸納,而機(jī)器(計算機(jī))則是基于數(shù)據(jù)(即經(jīng)驗(yàn)的外在體現(xiàn)),利用算法來總結(jié)規(guī)律,并作出預(yù)測。
當(dāng)前,信息技術(shù)、網(wǎng)絡(luò)技術(shù)已經(jīng)進(jìn)入了各行各業(yè),現(xiàn)代社會治安隱患、新型犯罪活動等也更加智能化、隱蔽化,甚至出現(xiàn)了許多高科技犯罪手法,被動搜集信息的公安警務(wù)工作模式已經(jīng)跟不上社會發(fā)展的腳步,而將大數(shù)據(jù)智能化技術(shù)深入應(yīng)用,可以有效提高公安機(jī)關(guān)的打擊犯罪能力、保障社會安全的能力!
本篇論文刊登于《警察技術(shù)》2022年第1期
本文由杭州中奧科技有限公司(北京研究院、數(shù)據(jù)智能部)、公安部第一研究所聯(lián)合編寫。
關(guān)鍵詞:風(fēng)險評估預(yù)警模型、機(jī)器學(xué)習(xí)、半監(jiān)督、支持向量機(jī)、K近鄰、隨機(jī)森林
一、背景
我國目前的監(jiān)獄人員管理現(xiàn)狀,多數(shù)還停留在以獄警巡查加攝像機(jī)監(jiān)視報警的階段,人工作業(yè)仍占絕大比重,信息化程度比較低。
為提高監(jiān)管風(fēng)險識別水平,我們可以利用機(jī)器學(xué)習(xí)的相關(guān)技術(shù),整合監(jiān)管方面的相關(guān)數(shù)據(jù),提取服刑人員相關(guān)特征和風(fēng)險評估表,利用大數(shù)據(jù)、數(shù)據(jù)庫處理技術(shù)、計算機(jī)軟件技術(shù)、地理信息系統(tǒng)技術(shù)、互聯(lián)網(wǎng)技術(shù)等多學(xué)科能力,研發(fā)和建設(shè)了這套獄所人員的風(fēng)險評估算法模型,實(shí)現(xiàn)監(jiān)所管理信息化,檢索的智能化。
二、模型構(gòu)建相關(guān)技術(shù)
2.1 模型整體框架
在傳統(tǒng)機(jī)器學(xué)習(xí)行業(yè)中,無標(biāo)簽的數(shù)據(jù)易于獲取,而有標(biāo)簽的數(shù)據(jù)收集起來通常很困難,標(biāo)注也耗時和耗力。在這種情況下,半監(jiān)督學(xué)習(xí)更適用于現(xiàn)實(shí)世界中的應(yīng)用。
在分辨監(jiān)所人員風(fēng)險訓(xùn)練樣本時,我們只能通過以往人員犯事記錄進(jìn)行風(fēng)險標(biāo)記,對于那些沒有明顯表征,但潛在存在風(fēng)險的人員我們?nèi)睙o法完全標(biāo)記為無風(fēng)險白樣本。
本模型是一種基于半監(jiān)督學(xué)習(xí)框架的特征向量學(xué)習(xí)預(yù)測模型方法
圖2 半監(jiān)督學(xué)習(xí)架構(gòu)圖
2.2 模型特征提取
采用模型的特征在已知結(jié)構(gòu)化特征提取的基礎(chǔ)上增加非結(jié)構(gòu)化特征提取。結(jié)構(gòu)化特征提取在行業(yè)內(nèi)常用成熟。
一般簡單的非結(jié)構(gòu)化特征提取采用正則+規(guī)則的形式,往往用在身份證號,生日,手機(jī)號等規(guī)則的實(shí)體提取場景采用,但在本場景中,監(jiān)所數(shù)據(jù)中非結(jié)構(gòu)化特征大量存在于談話記錄,教育記錄,歷史檔案等復(fù)雜文本當(dāng)中,提取的體征也較身份證號這類實(shí)體復(fù)雜。
因此我們采用基于深度學(xué)習(xí)的命名實(shí)體識別技術(shù)BERT+CRF(神經(jīng)網(wǎng)絡(luò)進(jìn)行提取。BERT使用Transformer作為獲取文本表征的手段(主要依賴了多頭的self-attention機(jī)制, 見圖3), 能夠獲取比BiLstm更深層次的語言表征。
基于谷歌預(yù)訓(xùn)練的中文BERT模型, 結(jié)合我們的命名實(shí)體識別任務(wù)(針對特定場景的標(biāo)注和訓(xùn)練), 在保證模型有較強(qiáng)泛能力的同時, 提升特定場景下的模型準(zhǔn)確率。使用BERT提取文本向量特征后,與結(jié)構(gòu)化特征一起構(gòu)建人員特征寬表待進(jìn)入半監(jiān)督模型訓(xùn)練。
圖3 BERT Transform框架
三、數(shù)據(jù)的分析及處理
3.1 數(shù)據(jù)特征篩選
參考數(shù)據(jù)庫表和表內(nèi)數(shù)據(jù),提取健康、鬧監(jiān)、心理等六個模型的關(guān)鍵屬性,摘取模型訓(xùn)練所需的特征維度。
在押危險人員具備區(qū)別于普通在押人員的一些特點(diǎn)和活動規(guī)律。通過針對所需要分析的目標(biāo)人群的背景信息、案件信息、獎懲信息、就醫(yī)信息、健康情況、違紀(jì)違規(guī)等數(shù)據(jù)加上人員在押生活中記錄的如談話記錄、教育記錄,案件案情,客觀評價等非結(jié)構(gòu)化文本類信息,提取出多維度的特征標(biāo)簽形成特征寬表,通過模型訓(xùn)練結(jié)合業(yè)務(wù)角度從在押人員中挖掘出潛在的高風(fēng)險人員。
3.2 數(shù)據(jù)預(yù)處理
針對特征進(jìn)行歸一化處理,z-score歸一化轉(zhuǎn)化為0-1之間的數(shù)值,使得各個特征在同一度量維度下,從而使它們之間的權(quán)重更好處理。此外,采用利用均值和標(biāo)準(zhǔn)差對數(shù)值進(jìn)行歸一化,針對年齡、同行次數(shù)等連續(xù)型特征進(jìn)行離散化,將其等頻離散化/等區(qū)間離散化處理,降低算法對于分布假設(shè)的依賴性。
針對每個數(shù)值型特征,結(jié)合特征的分布及與目標(biāo)分類的分布情況,對于特征進(jìn)行數(shù)學(xué)變化,比如次方,三次方,取自然對數(shù)等數(shù)學(xué)變換。
3.3 特征向量數(shù)據(jù)平滑處理
進(jìn)行特征向量提取和表示時,并不是每個特征值在每個維度都有數(shù)值,經(jīng)常該字段為空值或者缺失,當(dāng)詞匯在某個維度未出現(xiàn)時,記錄該特征點(diǎn)時用0來表示,但是該特征對應(yīng)的特征向量就會出現(xiàn)一個斷點(diǎn),這對模型訓(xùn)練和結(jié)果分析時造成了很大困難,需要對特征進(jìn)行修正,以達(dá)到能符合后續(xù)處理的需要。本文采用滑動平均值來處理數(shù)值斷點(diǎn)問題。
3.4 特征向量人工標(biāo)注
于模型訓(xùn)練的特征數(shù)據(jù)需要人工進(jìn)行標(biāo)注,數(shù)據(jù)有了標(biāo)簽,機(jī)器才可以根據(jù)帶有標(biāo)簽的數(shù)據(jù)進(jìn)行模型訓(xùn)練,數(shù)據(jù)標(biāo)注標(biāo)準(zhǔn)采用是否有風(fēng)險進(jìn)行標(biāo)注,即對數(shù)據(jù)的多個維度進(jìn)行人工綜合分析,并判斷該犯人是否有健康、鬧監(jiān)、心理等六個方向的風(fēng)險,標(biāo)注人員為具有多年看守所工作經(jīng)驗(yàn)的預(yù)警,標(biāo)注人員只需要根據(jù)犯人的特征數(shù)據(jù)表中的信息,在上述的健康、鬧監(jiān)、心理等六個方向上打上是或否的標(biāo)記,是表示該犯人具有該方向的風(fēng)險,而否表示該犯人無該方向的風(fēng)險。
四、半監(jiān)督學(xué)習(xí)模型訓(xùn)練
4.1 不同類別基分類器模型選擇
在進(jìn)行健康、鬧監(jiān)、心理等六個模型訓(xùn)練時,由于特征數(shù)據(jù)的維度和疏密程度不同,所以采用的機(jī)器學(xué)習(xí)框架不同。根據(jù)數(shù)據(jù)和風(fēng)險評估的最終效果,選取了K近鄰算法、支持向量機(jī)模型和隨機(jī)森林模型。
4.2 實(shí)驗(yàn)結(jié)果與分析
在對健康、鬧監(jiān)、心理等6個模型進(jìn)行五輪交叉驗(yàn)證模型訓(xùn)練后,利用訓(xùn)練好的模型對測試數(shù)據(jù)進(jìn)行預(yù)測,計算得到每個模型的準(zhǔn)確率(ACC)和召回率(REC)。綜合評估,六個模型平均的準(zhǔn)確率和召回率達(dá)到80%以上,當(dāng)在訓(xùn)練數(shù)據(jù)積累較多時,特征維度較為豐富時,使用非距離計算的樹形模型具有較好的泛化性。
如今信息化智能化已在遍地開花,機(jī)器學(xué)習(xí)技術(shù)已日趨成熟,已在金融、軍事、政府、公安等各個領(lǐng)域應(yīng)用廣泛。看守所和監(jiān)獄這類監(jiān)管的行業(yè)更加需要信息化注入新的力量,以便于更好的為社會主義建設(shè)服務(wù)。而人工智能在監(jiān)管領(lǐng)域落地,更進(jìn)一步說明信息化建設(shè)迫在眉睫。因此,機(jī)器學(xué)習(xí)和人工智能在監(jiān)獄行業(yè)的落地具有重要意義。
本文提出了一種基于半監(jiān)督學(xué)習(xí)的監(jiān)所獄所風(fēng)險人員評估的計算方法,也總結(jié)了具體的遠(yuǎn)程,針對不同種類特征數(shù)據(jù)不同機(jī)器學(xué)習(xí)訓(xùn)練模型的優(yōu)劣。對于在模型訓(xùn)練過程中人工標(biāo)注數(shù)據(jù)較少,特征向量中缺失值較多的情況,某些人員的特征性質(zhì)可能并沒有在數(shù)據(jù)特征層面取得較好的體現(xiàn)。在將來的研究中,需要更加細(xì)致的統(tǒng)計人員的相關(guān)特征,這樣才能更加細(xì)致的體現(xiàn)風(fēng)險評估的準(zhǔn)確性。
本篇論文刊登于《警察技術(shù)》2022年第1期