觀點(diǎn)丨警惕“換臉”背后“換錢(qián)”套路

  湖南日?qǐng)?bào)·新湖南客戶端   2025-01-03 08:24:34

楊玉龍

如今，“AI（人工智能）換臉”圖片和視頻成為熱門(mén)現(xiàn)象，娛樂(lè)之余，讓人真假莫辨，風(fēng)險(xiǎn)與困擾也不少。記者調(diào)查發(fā)現(xiàn)，屢被曝光的“AI換臉”背后，從傳播到制作再到后端環(huán)節(jié)，幾乎都藏著生意。當(dāng)前，包括網(wǎng)絡(luò)平臺(tái)、通信公司在內(nèi)，已有一些技術(shù)和措施識(shí)別“換臉”，但也面臨著“矛與盾”的考驗(yàn)。

“AI換臉”不能想換就換，技術(shù)的運(yùn)用必須依法規(guī)范。比如在山東淄博，一名82歲的老人近期被“AI外孫”騙走了32.6萬(wàn)元。自2023年1月10日起施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確，提供智能對(duì)話、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等生成或顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識(shí)，避免公眾混淆或者誤認(rèn)。遵守法律法規(guī)，當(dāng)是“AI換臉”的底線所在。

AI技術(shù)可定制性強(qiáng)、應(yīng)用場(chǎng)景廣泛，不法分子作案手法多樣，導(dǎo)致AI犯罪不斷衍生升級(jí)。對(duì)此，相關(guān)部門(mén)需常態(tài)化發(fā)力，全力打擊治理AI犯罪，防范不法分子利用或?yàn)E用AI技術(shù)侵犯公民權(quán)利、危害公共安全。

同時(shí)，公眾應(yīng)增強(qiáng)法律意識(shí)和防范意識(shí)。如，通過(guò)多種形式的宣傳教育，幫助群眾更加清晰地認(rèn)識(shí)到AI技術(shù)被利用或?yàn)E用所帶來(lái)的法律風(fēng)險(xiǎn)。再如，養(yǎng)成良好的上網(wǎng)習(xí)慣，對(duì)可能進(jìn)行聲音、圖像甚至視頻等信息采集的應(yīng)用，做好授權(quán)管理。不給他人收集自己信息的機(jī)會(huì)，也能在一定程度上讓AI換臉詐騙遠(yuǎn)離自己。

此外，針對(duì)出現(xiàn)的詐騙套路，亟待相關(guān)部門(mén)協(xié)同配合。誠(chéng)如此前有受訪專家表示，加強(qiáng)大數(shù)據(jù)法律監(jiān)督模型應(yīng)用，善于從中發(fā)現(xiàn)重點(diǎn)監(jiān)督線索和社會(huì)治理存在的難點(diǎn)問(wèn)題，實(shí)現(xiàn)精準(zhǔn)監(jiān)督、有效監(jiān)督，在行業(yè)良性健康發(fā)展的基礎(chǔ)上實(shí)現(xiàn)精準(zhǔn)治理。

（作者單位：河北省高碑店市辛橋鄉(xiāng)人民政府）

責(zé)編：萬(wàn)麗君

一審：萬(wàn)麗君

二審：歐陽(yáng)金雨

三審：王禮生

來(lái)源：湖南日?qǐng)?bào)·新湖南客戶端

我要問(wèn)