據(jù)中央廣播電視總臺中國之聲《新聞縱橫》報(bào)道，電商熱銷產(chǎn)品“苗古金貼”，號稱由“千年秘方”的非物質(zhì)文化遺產(chǎn)代表性傳承人制作，專攻膝蓋、頸椎等問題。然而，記者深入調(diào)查發(fā)現(xiàn)，該“傳承人”的照片實(shí)為AI生成，證書由一家機(jī)構(gòu)違規(guī)炮制。此類現(xiàn)象，在網(wǎng)上并不罕見。

隨著AI生成技術(shù)的出現(xiàn)，造假手段也隨之升級了，AI生成的人物仿真度高，普通人很難一眼識破，更別說對AI不熟悉的中老年人了。再者，一系列的配套造假手段，將假“神醫(yī)”“神藥”包裝得惟妙惟肖，不僅普通消費(fèi)者，就連電商平臺、監(jiān)管部門在鑒別時(shí)恐怕都要費(fèi)點(diǎn)功夫。

因此，面對AI生成的新騙局，打假手段要迭代升級。

平臺與監(jiān)管部門應(yīng)緊跟新技術(shù)，以AI之矛攻AI之盾，充分研究AI生成技術(shù)中的時(shí)序瑕疵、物理規(guī)律異常、個(gè)性化表情缺失等漏洞，并利用深度學(xué)習(xí)模型針對性優(yōu)化鑒偽算法，提高鑒別能力。

同時(shí)，要對AI生成技術(shù)應(yīng)用進(jìn)行引導(dǎo)。目前，許多平臺都根據(jù)《人工智能生成合成內(nèi)容標(biāo)識辦法》及配套國家標(biāo)準(zhǔn)，要求服務(wù)提供者和用戶對AI生成內(nèi)容進(jìn)行顯式和隱式標(biāo)識，為打擊AI造假提供了技術(shù)支撐與責(zé)任追溯機(jī)制。下一步，可以對商家用戶采取“黑名單制”，如果商家違反規(guī)范標(biāo)準(zhǔn)，將其納入“黑名單”，施以降流、罰款、封店等處罰措施。

此外，針對不法商家虛構(gòu)藥方、偽造證書等造假行為，可構(gòu)建平臺與監(jiān)管部門協(xié)同的治理機(jī)制：要求商家上傳產(chǎn)品時(shí)必須提交藥方來源證明、身份資質(zhì)等全套材料，并在商品頁面公示接受社會(huì)監(jiān)督；可聯(lián)合中醫(yī)藥協(xié)會(huì)核查藥方真實(shí)性，聯(lián)合文旅部門驗(yàn)證相關(guān)證書，聯(lián)合藥監(jiān)部門評估配方合規(guī)性，形成“AI初篩+專家復(fù)核”的雙重鑒定體系。