??在本次暑期社會實踐中，北京科技大學(xué)索行幻AI智覺實踐團(tuán)隊的大學(xué)生進(jìn)行了充分的線上調(diào)研，了解AI詐騙的手段與演變過程。同時，他們走出校園，走進(jìn)社區(qū)，與市民面對面交流，了解市民對AI詐騙的認(rèn)知情況。為了讓AI科技更接地氣，他們還在校園內(nèi)組建了AI技術(shù)與科普研究會。

圖為團(tuán)隊成員走出校園，在北京街頭進(jìn)行“街采”

??實踐團(tuán)隊隊長姜證朗介紹，在線上調(diào)研和線下走訪中，他們親眼目睹了AI換臉、AI合成聲音等技術(shù)被用于電信詐騙的危害。特別是在與北京市公安局海淀分局雙泉堡派出所民警的交流中，團(tuán)隊成員深切感受到預(yù)防AI詐騙的重要性與緊迫性，他們決定開發(fā)一款防AI詐騙產(chǎn)品，用自己所學(xué)助力防范電信網(wǎng)絡(luò)詐騙。

圖為團(tuán)隊成員與雙泉堡派出所民警交流。

??實踐團(tuán)技術(shù)副隊馬幸天介紹，在長亭科技、瑞萊智慧等公司專家的指導(dǎo)下，他們團(tuán)隊開發(fā)出了一款名為“詐止AI”的微信小程序。這款小程序包括AI換臉識別檢測和知識科普等功能。針對不法分子使用AI換臉技術(shù)進(jìn)行的詐騙，比如通過AI換臉技術(shù)冒充親友、通過微信視頻通話騙取對方信任等，用戶只要上傳手機(jī)相冊視頻或者使用手機(jī)拍攝一段視頻，這款小程序就可以識別對方是否換臉，從而實現(xiàn)保護(hù)用戶財產(chǎn)安全的目的。

??據(jù)悉，除了視頻識別檢測版本外，北京科技大學(xué)的這個大學(xué)生團(tuán)隊已經(jīng)完成小程序文本、聲音檢測的設(shè)計規(guī)劃，實時監(jiān)測功能正在開發(fā)中。馬幸天說，小程序后端使用了GenConViT算法，在檢測AI換臉視頻上具有較高的通用性和準(zhǔn)確度。“我們不斷嘗試新的技術(shù)手段，優(yōu)化我們的小程序，以提高其檢測換臉樣本的準(zhǔn)確性和通用性。”