中新網(wǎng)北京10月21日電 (記者 張素)記者21日從中科創(chuàng)星獲悉,多模態(tài)AI生成信息智能檢測應(yīng)用小程序“星眼鑒”已發(fā)布,這款反AI智能工具可以高效鑒別出用戶上傳的視頻或圖像是否為AI生成的偽造數(shù)據(jù)。
AI技術(shù)正在被大量應(yīng)用于場景中,而人臉識別技術(shù)為人們的生活帶來便利和樂趣的同時,其風(fēng)險性也日益突出。比如,利用AI進(jìn)行“逃逸攻擊”“對抗樣本攻擊”和“數(shù)據(jù)污染攻擊”的案例逐漸增多。
提升反AI安全防務(wù)迫在眉睫。南京攝星智能創(chuàng)始人兼CEO楊理想介紹,基于自主研發(fā)的人工智能技術(shù),他們開發(fā)出反AI檢測程序。“星眼鑒”分別面向B端和C端,其中,B端版本提供更全面和更高級的服務(wù),用戶可將其用于各種偵測、安防場景;C端加入用戶猜測、評價機(jī)器判斷結(jié)果對比、報告圖片分享至朋友圈等互動性娛樂設(shè)計。
楊理想介紹,用戶在上傳視頻或圖像后,后臺會基于深度學(xué)習(xí)的智能檢測算法,對視頻中的每一幀圖像進(jìn)行人臉檢測和特征學(xué)習(xí),包括人的生理特征、面部分辨率以及臉部運(yùn)動等,將學(xué)習(xí)到的特征深度融合,形成真?zhèn)我曨l的判斷結(jié)論。“經(jīng)檢測,該模型在反AI檢測準(zhǔn)確率已經(jīng)達(dá)到95%以上。”他說。
據(jù)介紹,南京攝星智能的研發(fā)團(tuán)隊來自北京大學(xué)、中國科學(xué)院、西安交通大學(xué)等高校或機(jī)構(gòu),掌握的核心技術(shù)包括自然語言處理、機(jī)器視覺、語音識別等方向。此前,團(tuán)隊結(jié)合其對多模態(tài)數(shù)據(jù)理解、樣本對抗等方法,自主研發(fā)出反AI檢測算法框架,形成了反AI檢測體系,軍智內(nèi)核平臺已落地多個合作伙伴。
“這套內(nèi)核是在軍工領(lǐng)域深耕的成果,比如智能反AI檢測體系,支持多模態(tài)虛假AI數(shù)據(jù)的檢測。”楊理想說,經(jīng)過技術(shù)脫敏處理,衍生出“星眼鑒”。他們計劃陸續(xù)推出語音、文本等類型信息的反AI生成鑒別工具。(完)