AI安全可信關(guān)鍵技術(shù)專利分析簡要報告

#本文僅代表作者觀點，不代表IPRdaily立場，未經(jīng)作者許可，禁止轉(zhuǎn)載#

“AI的決策最終需要得到人類用戶的信任，如何在模型投入生產(chǎn)、決策過程中，以及決策后能夠透明、可視地向使用者展示決策過程？如何避免因為算法、數(shù)據(jù)歧視，而影響決策的公平性？對于建立公眾對AI決策結(jié)果的信任至關(guān)重要?！?br/>

來源：IPRdaily中文網(wǎng)（iprdaily.cn）

數(shù)字時代是人工智能深度應用和發(fā)展的時代。人工智能作為關(guān)鍵性的新型技術(shù)能力，推動了產(chǎn)業(yè)升級與變革，加速了智能社會的建設(shè)。隨著AI技術(shù)的規(guī)?；a(chǎn)業(yè)落地，數(shù)據(jù)隱私、算法安全、算法歧視等風險成為不可回避的行業(yè)共性問題，也將AI指向了“不被信任”的困境 。讓AI安全可信，發(fā)展可信AI技術(shù)，是數(shù)字時代抵御風險的關(guān)鍵能力，也是人工智能從高速增長轉(zhuǎn)變?yōu)楦哔|(zhì)量增長的關(guān)鍵內(nèi)驅(qū)力。

AI技術(shù)首先要服務于各類應用。如何確保其在各種條件和環(huán)境變化時，仍能在安全范圍內(nèi)運行，是首要解決的問題。增強模型算法的魯棒性、抗打擊能力，有助于提升AI應用的穩(wěn)定運行。同時，數(shù)據(jù)作為AI模型的重要支柱之一，如何實現(xiàn)合理的利用和保護成為關(guān)鍵。如何借助技術(shù)手段，避免數(shù)據(jù)的過度采集、濫用盜用，既是行業(yè)研究的責任，也是用戶權(quán)益保護的基礎(chǔ)。同時，針對當前多數(shù)據(jù)所有權(quán)、地區(qū)法律法規(guī)差異大的現(xiàn)狀，如何借助技術(shù)手段、在保護隱私的前提下實現(xiàn)計算服務，將進一步釋放數(shù)據(jù)價值。AI的決策最終需要得到人類用戶的信任，如何在模型投入生產(chǎn)、決策過程中，以及決策后能夠透明、可視地向使用者展示決策過程？如何避免因為算法、數(shù)據(jù)歧視，而影響決策的公平性？對于建立公眾對AI決策結(jié)果的信任至關(guān)重要。

面對人工智能引發(fā)的信任問題，可信AI成為近年來學術(shù)界、工業(yè)界和政策制定者的重點研究方向，并形成以AI魯棒性、AI數(shù)據(jù)隱私保護、AI可解釋性和AI公平性為安全可信關(guān)鍵特征的共識。我們于2021年首次進行AI安全可信關(guān)鍵技術(shù)專利檢索，隨著安全可信成為人工智能發(fā)展基礎(chǔ)的定性，在過去的一年，我們也觀察到相關(guān)的專利申請量和授權(quán)量也在大幅激增。所以，我們再次進行全球?qū)＠麛?shù)據(jù)的檢索和分析，延續(xù)性分析都有誰在致力于AI安全可信技術(shù)的研究？實踐應用在哪里領(lǐng)域和場景？本文即通過公開可獲取的專利數(shù)據(jù)[1]一窺究竟。

1、AI安全可信關(guān)鍵技術(shù)的創(chuàng)新產(chǎn)出

圖1的分析結(jié)果顯示[2]， AI安全可信關(guān)鍵技術(shù)相關(guān)專利共有17065項德溫特專利家族[3]，對應26593件專利申請?？梢娔壳癆I安全可信關(guān)鍵技術(shù)已經(jīng)獲得了一些關(guān)注，并且已經(jīng)具有一定數(shù)量的創(chuàng)新技術(shù)產(chǎn)出。

這17065項創(chuàng)新技術(shù)中，約69%是關(guān)于AI數(shù)據(jù)隱私保護相關(guān)的專利，23%是AI魯棒性相關(guān)的專利，AI可解釋性相關(guān)專利的占比為9%，AI公平性方向的專利相對較少僅1%。

圖1 AI安全可信關(guān)鍵技術(shù)專利產(chǎn)出

基于圖2顯示的專利首次申請地域（優(yōu)先權(quán)國家/地區(qū)）可以看出，本領(lǐng)域62%的創(chuàng)新源自中國，20%的創(chuàng)新源自美國，這兩個國家的創(chuàng)新占全球的半數(shù)以上，是最為關(guān)注AI安全可信技術(shù)并進行創(chuàng)新研究的地區(qū)。

圖2  AI安全可信關(guān)鍵技術(shù)專利優(yōu)先權(quán)國家/地區(qū)

2、AI安全可信關(guān)鍵技術(shù)的Top創(chuàng)新主體

AI安全可信關(guān)鍵技術(shù)領(lǐng)域按照德溫特專利家族數(shù)量排名前20位的Top創(chuàng)新主體如下表所示，排名第一的支付寶（螞蟻集團）有753項德溫特專利家族，其次是騰訊有521項，IBM以456項緊隨其后。

圖3  AI安全可信關(guān)鍵技術(shù)Top創(chuàng)新主體-按德溫特專利家族數(shù)

3、AI安全關(guān)鍵技術(shù)的Top創(chuàng)新主體授權(quán)專利數(shù)量

進一步分析在AI安全可信關(guān)鍵技術(shù)領(lǐng)域整體排名領(lǐng)先的Top創(chuàng)新主體的德溫特專利家族專利授權(quán)量(只要家族中有一件專利獲得授權(quán)即視為這個專利家族已經(jīng)獲得授權(quán))并按照授權(quán)數(shù)量排名，結(jié)果顯示前三位是支付寶（螞蟻集團）、IBM、NTT，這三家公司的授權(quán)專利數(shù)量都在150項以上。

圖4  AI安全可信關(guān)鍵技術(shù)Top創(chuàng)新主體專利授權(quán)量

4、AI安全可信關(guān)鍵技術(shù)Top創(chuàng)新主體的關(guān)注市場

通常專利布局的國家/地區(qū)會根據(jù)企業(yè)的市場戰(zhàn)略制定，而且企業(yè)一般會選擇比較重要且有信心獲得授權(quán)的專利技術(shù)去多個目標市場進行布局。所以通過分析企業(yè)的專利布局目標國家/地區(qū)可以了解該企業(yè)的目標市場和技術(shù)自信，通過分析AI安全可信技術(shù)領(lǐng)域整體的專利布局目標市場發(fā)現(xiàn)：本領(lǐng)域的Top創(chuàng)新主體除了中國的科研機構(gòu)主要關(guān)注中國本土(即較少布局海外市場)外，阿里巴巴布局了21個市場，支付寶（螞蟻集團）布局了14個市場，是布局市場較多的中國企業(yè)。除此以外，騰訊和華為各布局了8個市場、百度和中國平安各布局了5個市場。其中的國外Top創(chuàng)新主體都至少布局了10個以上的市場。

圖5 AI安全可信技術(shù)Top創(chuàng)新主體專利布局目標市場

5、AI安全可信技術(shù)的主要應用領(lǐng)域解析

通過本次調(diào)查的詞頻可以了解到，與電信詐騙、身份冒用、營銷作弊、金融風控、企業(yè)聯(lián)合風控相關(guān)的“安全風控”是AI安全可信主要應用領(lǐng)域，專利量占比超26%。其中，支付寶（螞蟻集團）在該領(lǐng)域的專利數(shù)達205件，位居第一。

通過本文研究發(fā)現(xiàn)，AI安全可信關(guān)鍵技術(shù)已經(jīng)獲得了一定的關(guān)注并且已經(jīng)研發(fā)了一些技術(shù)成果，這其中中國的支付寶（螞蟻集團）和騰訊兩家企業(yè)起到了引領(lǐng)作用，緊隨其后的包括IBM, NTT, 阿里巴巴等信息巨頭企業(yè)。相信隨著AI更為廣范的應用，AI安全可信關(guān)鍵技術(shù)會獲得更高的研究關(guān)注度。

注釋：

[1]專利制度的設(shè)計初衷是為了鼓勵發(fā)明創(chuàng)造，方便技術(shù)傳播，而且因為專利的先申請制，任何創(chuàng)新技術(shù)方案除非是技術(shù)秘密正常都會先申請專利，所以專利文獻是最全面、及時、客觀的情報載體，可以通過公開的專利數(shù)據(jù)掌握客觀的技術(shù)、市場、競爭情報。
[2]本文的專利數(shù)據(jù)檢索截止日為：2022年11月28日，涵蓋專利最早優(yōu)先權(quán)日2000年1月1日以后公開的全球利申請和/或授權(quán)專利。
[3]德溫特世界專利索引 (Derwent World Patents Index, DWPI)是全球最權(quán)威的專利增值數(shù)據(jù)，全球超過40個國家/地區(qū)的專利局都在使用德溫特世界專利索引進行官方的專利檢索和審查。德溫特世界專利索引在數(shù)據(jù)加工過程中，會將相同技術(shù)主題的多件專利歸并為一個德溫特專利家族，這一個家族的多件專利都是保護相同技術(shù)主題。本文針對技術(shù)的分析均以德溫特專利家族為單位，如此可以避免將一個技術(shù)主題因為有多個專利家族成員而被計算多次，而具體到分析在哪個國家布局幾件專利時則以單獨的專利作為統(tǒng)計單位。

（原標題：AI安全可信關(guān)鍵技術(shù)專利分析簡要報告）

來源：IPRdaily中文網(wǎng)（iprdaily.cn）

編輯：IPRdaily趙甄          校對：IPRdaily縱橫君

注：原文鏈接：AI安全可信關(guān)鍵技術(shù)專利分析簡要報告（點擊標題查看原文）

「關(guān)于IPRdaily」

IPRdaily是全球領(lǐng)先的知識產(chǎn)權(quán)綜合信息服務提供商，致力于連接全球知識產(chǎn)權(quán)與科技創(chuàng)新人才。匯聚了來自于中國、美國、歐洲、俄羅斯、以色列、澳大利亞、新加坡、日本、韓國等15個國家和地區(qū)的高科技公司及成長型科技企業(yè)的管理者及科技研發(fā)或知識產(chǎn)權(quán)負責人，還有來自政府、律師及代理事務所、研發(fā)或服務機構(gòu)的全球近100萬用戶（國內(nèi)70余萬+海外近30萬），2019年全年全網(wǎng)頁面瀏覽量已經(jīng)突破過億次傳播。

（英文官網(wǎng)：iprdaily.com  中文官網(wǎng)：iprdaily.cn） 

本文來自IPRdaily中文網(wǎng)（iprdaily.cn）并經(jīng)IPRdaily.cn中文網(wǎng)編輯。轉(zhuǎn)載此文章須經(jīng)權(quán)利人同意，并附上出處與作者信息。文章不代表IPRdaily.cn立場，如若轉(zhuǎn)載，請注明出處：“http://jupyterflow.com”