圖片來(lái)源@視覺(jué)中國(guó)

鈦媒體注：本文來(lái)源于微信公眾號(hào)愛(ài)范兒（ID：ifanr），作者 | 張成晨，鈦媒體經(jīng)授權(quán)發(fā)布。

新年新氣象，除了和財(cái)神爺搞好關(guān)系，守住錢袋子也很重要。

技術(shù)落地的過(guò)程，往往是黃色內(nèi)容和詐騙套路的進(jìn)化史。

趁著假期還有余額，教長(zhǎng)輩警惕 AI 新型騙局，才能實(shí)現(xiàn)「相親相愛(ài)一家人」家族群的「共同富?！埂?/p>

一抓一大把的 AI 博主，比「假靳東」更能騙人

《大話西游》里說(shuō)，人是人他媽生的，妖是妖他媽生的，代碼產(chǎn)出的 AI 沒(méi)有父母，但想裝得有血有肉，讓你誤解它是人類。

最近，視頻號(hào)冒出了不少「俄羅斯美女」。她們個(gè)個(gè)膚白貌美，普通話流暢但斷句和咬字奇怪，聲調(diào)和前后鼻音讀不準(zhǔn)。當(dāng)然，考慮到她們外國(guó)人的身份，帶點(diǎn)口音才顯得自然。

她們熱情，也熱愛(ài)中國(guó)文化，為視頻打上「俄羅斯女孩在中國(guó)」「中俄友誼」之類的標(biāo)簽，為觀眾朋友帶來(lái)「家鄉(xiāng)特產(chǎn)」的牛筋腸、大列巴、羊奶粉、酸黃瓜、巧克力、手工皂。

她們兩彎似蹙非蹙罥煙眉，一雙似喜非喜含情目，除了帶貨也會(huì)輸出觀點(diǎn)，相信愛(ài)情無(wú)國(guó)界，信奉平平淡淡才是真，感嘆這里的繁華，想把爸媽和妹妹也接來(lái)發(fā)展。

她們可能是彼此失散多年的姐妹，葉連娜和艾琳娜就長(zhǎng)得一模一樣，IP 還都是山東的。她們聚是一團(tuán)火、散是滿天星，分布在五湖四海，莉娜是上海的，尼娜是安徽的，艾琳是河北的，卡佳是遼寧的，阿麗莎是福建的。

這些俄羅斯美女都是 AI，平臺(tái)貼心地標(biāo)注了。通過(guò)她們虛化夸張的模糊背景、沒(méi)摳好的頭發(fā)絲、循環(huán)的幾套表情和動(dòng)作、過(guò)于接地氣的臺(tái)詞，我們也能分辨一二。

但評(píng)論區(qū)的中老年看不出來(lái)，真心希望她們留下來(lái)，「俄羅斯美女」們回復(fù)時(shí)也只掛念著自己的任務(wù)，完成了一場(chǎng)不動(dòng)聲色的軟性詐騙。

被美貌所惑是人之常情，不分年齡。小紅書的AI顏值博主，用時(shí)髦的、極具網(wǎng)感的人設(shè)實(shí)現(xiàn)老少通殺。「西裝精英男」「白襪體育生」「純欲女神」......乍一看，只以為是 P 圖 P 過(guò)了的真人。

這時(shí)候辨別是不是 AI，看手仍然是一種方式，因?yàn)槟樝鄬?duì)平面，容易學(xué)習(xí)，而手有三維結(jié)構(gòu)，比較耗費(fèi)功夫。手指數(shù)量超出無(wú)須多言，手指關(guān)節(jié)扭曲得留個(gè)心眼，非必要不露手也十分可疑。類似地，肌肉、四肢、衣服等細(xì)節(jié)也可能有著顯而易見(jiàn)的破綻。

其余的分辨方式越來(lái)越向玄學(xué)和直覺(jué)發(fā)展：畫風(fēng)油膩、文案網(wǎng)抑云、沒(méi)有生活氣息、光影效果不自然、眼神透著死氣，臉部過(guò)于精致完美，只有靜態(tài)圖片沒(méi)有視頻，單看一張圖片不好確定，但多看幾張就能發(fā)現(xiàn)，什么姿勢(shì)都是一個(gè)表情......

小紅書 AI 博主 @cyberAngel_ 本職是一名軟件工程師，AI 繪畫權(quán)當(dāng)為愛(ài)發(fā)電的業(yè)余愛(ài)好，他不隱藏使用 AI 的事實(shí)，帖子標(biāo)題注明「AI 繪畫」，賬號(hào)簡(jiǎn)介也寫著「我只是一個(gè)沒(méi)有感情的機(jī)器人」。

圖片來(lái)自：小紅書 @cyberAngel_

同時(shí) @cyberAngel_ 認(rèn)為，未來(lái)的 AI 繪畫將越來(lái)越難以分辨真假，AI 生成和 AI 檢測(cè)是互相進(jìn)化的，創(chuàng)作者們更加清楚 AI 哪里不像真人，所以會(huì)努力讓這部分「像」真人，比如 AI 產(chǎn)出的美少女過(guò)于完美，可以適當(dāng)模糊化，加點(diǎn)「膠片感」。

哪怕 AI 顏值博主還沒(méi)那么真，和「俄羅斯美女」大同小異的劇情已經(jīng)出現(xiàn)，平臺(tái)明明已經(jīng)提示「疑似包含 AI 創(chuàng)作信息」，評(píng)論區(qū)仍有人留下彩虹屁，甚至追著詢問(wèn)衣服鏈接，似乎真或假的問(wèn)題，最終將不可避免地讓位于美麗即是正義。

等到粉絲量上來(lái)了，AI 顏值博主的變現(xiàn)方式可以十分多樣，有的自力更生，通過(guò)廣告等將流量變現(xiàn)，有的知識(shí)付費(fèi)，賣課、賣定制模型，按 @cyberAngel_ 的話說(shuō)，「新媒體有新媒體的變現(xiàn)方式，技術(shù)有技術(shù)的變現(xiàn)方式」。

真人模型.

AI「俄羅斯美女」和「顏值博主」，和之前騙中老年女性情感和錢財(cái)?shù)摹讣俳鶘|」有些相似之處，卻更加可怕，也更加有想象空間。

「假靳東」沒(méi)什么技術(shù)含量，和明星相關(guān)的視頻和照片是下載或者打包購(gòu)買的，深情的聲音是用變聲軟件偽造的，粗糙得「一眼假」，AI 的段位更高，有時(shí)候還真的沒(méi)那么好辨別。

只能說(shuō)，當(dāng)我們看到盤靚條順的互聯(lián)網(wǎng)帥哥美女時(shí)，最好不要默認(rèn)是真人，也不必太真情實(shí)感，網(wǎng)紅公司不想花錢在真人 KOL 上，觀眾也更加快速地消費(fèi)批量的美貌和廉價(jià)的觀點(diǎn)，多么符合互聯(lián)網(wǎng)的傳播規(guī)律。

AI 模仿你的臉，還要恐嚇你的心

除了通過(guò)「顏值博主」和「俄羅斯美女」廣撒網(wǎng)，AI 同樣也能精準(zhǔn)鎖定。

或者說(shuō)，AI 既能編織出溫柔鄉(xiāng)，也能改頭換面當(dāng) PUA 大師。

一類常見(jiàn)的 AI 詐騙是，騙子偽造來(lái)電顯示和熟人聲音，告訴接到電話的中老年，他們的孫子孫女遇到了麻煩，要么是犯了事需要拿錢消災(zāi)，要么是身陷險(xiǎn)境得用贖金救出。

國(guó)外報(bào)道了好幾起這樣的電話詐騙事件，劇情大同小異，綁架、受傷、酒駕追尾......類似的事情也發(fā)生在國(guó)內(nèi)，尤其是利用「時(shí)空差」，編造留學(xué)生被綁架，從而詐騙家長(zhǎng)。

套路本身并不新鮮，已經(jīng)橫行了幾年，但因?yàn)榧夹g(shù)發(fā)展，算力、樣本等各方面的要求降低了，效果更逼真了，騙局更容易實(shí)施了。

AI 語(yǔ)音克隆界的領(lǐng)頭羊 ElevenLabs 只需一美元和一分鐘的高質(zhì)量音頻，讓你瞬間掌握 29 種語(yǔ)言和多種語(yǔ)氣，還保留自己的口音、語(yǔ)調(diào)和節(jié)奏。

雖然如今的 Elevenlabs 再三保證，只有你可以克隆自己的聲音，并且有驗(yàn)證程序證明聲音屬于你自己，然而這是亡羊補(bǔ)牢，2023 年 Elevenlabs 剛推出測(cè)試版時(shí)，泰勒·斯威夫特等名人的克隆語(yǔ)音已經(jīng)滿天飛了。AI 泰勒·斯威夫特說(shuō)什么，本人無(wú)權(quán)決定。

不過(guò)，對(duì)方固然可以偽造來(lái)電顯示和聲音，但如果當(dāng)事人頭腦清醒，掛斷電話，重新輸入手機(jī)號(hào)，主動(dòng)聯(lián)系到親人，謊言往往不攻自破。

比起語(yǔ)音，視頻通話可能更讓相信「眼見(jiàn)為實(shí)」的中老年懷疑人生。

屏幕那端不知是人是狗的古早笑話永不過(guò)時(shí)，技術(shù)上也不難實(shí)現(xiàn)。比較常見(jiàn)的操作是，騙子通過(guò)虛擬攝像頭軟件和 AI 換臉功能，和對(duì)方進(jìn)行視頻聊天。

CCTV 采訪的、為公安機(jī)關(guān)提供技術(shù)支持的一家深圳科技公司表示，進(jìn)行視頻聊天的實(shí)時(shí)換臉時(shí)，不管是頭像還是朋友圈照片，上傳圖像后，特征識(shí)別只需要 30 秒左右，然后 AI 開(kāi)始建模，建模完成后進(jìn)行實(shí)時(shí)轉(zhuǎn)換。

一對(duì)一的視頻或許尚存戒心，如果一對(duì)多的「專業(yè)團(tuán)隊(duì)」呢？

最近，一家跨國(guó)公司香港分公司因?yàn)?AI 被騙走了 2500 萬(wàn)美元（約 1.8 億人民幣）。受害人是一名財(cái)務(wù)職員，其收到了英國(guó)總部「CFO」的郵件，受邀參與了一場(chǎng)涉及「秘密交易」的視頻會(huì)議，會(huì)上不僅有「CFO」，還有幾個(gè)眼熟的「同事」。

與會(huì)同事并非真的在場(chǎng)，騙子下載了公開(kāi)視頻，通過(guò) Deepfake 偽造了真人的臉和聲音，再套用到視頻會(huì)議。為了避免露餡，「CFO」單方面下指令，「同事」們沒(méi)有和受害人交流，并且視頻很快掛斷了，騙子之后通過(guò)郵件等方式繼續(xù)和受害人聯(lián)系。

警方示范怎么用 Deepfake 偽造多人視頻會(huì)議.

雖然此事有了調(diào)查結(jié)果，也有網(wǎng)友懷疑是內(nèi)鬼作祟而已?？鐕?guó)公司的風(fēng)險(xiǎn)管控措施如何不為人知，但可以確定的是，AI 換臉還可以延伸到很多地方，從最早的色情片換頭，到假冒明星在直播間帶貨。

所幸，AI 還沒(méi)有那么完美，辨別方式依然簡(jiǎn)單可行。

假如是通過(guò) AI 換臉視頻，攝像頭的原始畫面在幾層轉(zhuǎn)換時(shí)十分消耗算力，聲音和畫面往往會(huì)有延時(shí)。另外，可以引導(dǎo)對(duì)方做些動(dòng)作，比如張嘴、大幅度搖頭、把手指擋在臉前來(lái)回移動(dòng)等，若是 AI 換臉，「人臉」可能會(huì)出現(xiàn)變形和瑕疵。

除了從技術(shù)的 bug 突破重圍，還有百試不爽的一招是，問(wèn)些你知我知但他不知的隱私問(wèn)題，或者編造謊言故意套路，看對(duì)方如何接招。

當(dāng)然，技術(shù)的不足只能解一時(shí)之困，不妨戰(zhàn)略上蔑視、戰(zhàn)術(shù)上重視，不能覺(jué)得自己一定不會(huì)被騙，可能只是高端局還沒(méi)出現(xiàn)。

AI 詐騙并不新，但新的數(shù)字鴻溝已經(jīng)出現(xiàn)

2023 年被稱為生成式 AI 的元年，然而技術(shù)的推廣有滯后性，或許大多數(shù)普通人更能感知的是，看似并不新鮮的、但近年越發(fā)普及的技術(shù)，如何影響了日常生活。

技術(shù)是把雙刃劍的道理人人明白，Elevenlabs 可以讓有語(yǔ)言障礙的人發(fā)聲，HeyGen 讓霉霉對(duì)口型說(shuō)出不帶翻譯腔的中文，妙鴨相機(jī)讓人足不出戶收獲精修證件照，技術(shù)的光明面和陰暗面并無(wú)長(zhǎng)短，只是客觀存在罷了。

然而，對(duì)于很多中老年來(lái)說(shuō)，智能手機(jī)和互聯(lián)網(wǎng)本來(lái)就玩不明白，現(xiàn)在 AI 又來(lái)?yè)v亂了。

AI 時(shí)代，文字、聲音、圖片和視頻都有可能是假的，甚至以組合形式上場(chǎng)，騙子偽造的身份更加具體，詐騙也更加對(duì)癥下藥和真情實(shí)感，讓中老年受騙的概率更高。

以魔法對(duì)抗魔法，以技術(shù)攻防技術(shù)，是個(gè)此消彼長(zhǎng)的貓鼠游戲，中老年未必能快速消化，我們或許從詐騙的本質(zhì)入手，降低中老年上當(dāng)?shù)目赡堋?/p>

不管技術(shù)如何發(fā)展，很多詐騙的套路萬(wàn)變不離其宗：竊取隱私，利用恐懼、貪欲、情緒價(jià)值編故事，冒充熟人或包裝自己獲取信任，圖窮匕見(jiàn)以錢為最終目的。

在 AI 時(shí)尚教皇出圈后，一位粉絲近 1300 萬(wàn)的 X（原 Twitter）大 V 感嘆：「我以為教皇的羽絨服是真的，沒(méi)有多想。我不可能在技術(shù)的未來(lái)中幸存下來(lái)。」

對(duì)于中老年來(lái)說(shuō)，眼見(jiàn)不等于真實(shí)、有圖未必是真相的規(guī)則更難被適應(yīng)。我們可以告訴他們一些簡(jiǎn)單、傳統(tǒng)但依然有效的辦法。

一類是小心駛得萬(wàn)年船，不輕易相信互聯(lián)網(wǎng)的內(nèi)容，不接騷擾電話，不點(diǎn)陌生鏈接，盡量不在互聯(lián)網(wǎng)過(guò)度暴露人臉、聲音、指紋等個(gè)人生物信息。

尤其接到可疑電話、短信時(shí)，不要盲目相信「一面之詞」，不管對(duì)方是誰(shuí)，談到錢就多個(gè)心眼，通過(guò)多種方式驗(yàn)證對(duì)方身份，如果對(duì)方說(shuō)家人遭遇了某事，再次回?fù)芗胰穗娫挻_認(rèn)情況是否屬實(shí)。

另一類是主動(dòng)出擊有備無(wú)患，中老年有自己偏好的媒體，家人可以將政府部門微信公眾號(hào)等信源的反詐內(nèi)容轉(zhuǎn)發(fā)給他們。如果條件允許，也可以向中老年展示如何使用 ChatGPT 等 AI 工具。

當(dāng)然，對(duì)于不懂智能手機(jī)的老人，盡量在源頭解決問(wèn)題，最好不要在微信、支付寶綁定銀行卡，只存少量的零錢。

AI 詐騙得逞只是最后的結(jié)果，防范 AI 騙局卻可以隨時(shí)開(kāi)始。

技術(shù)應(yīng)當(dāng)服務(wù)于每一個(gè)人，引路人為后來(lái)者照亮數(shù)字世界的燈塔，探明水下未知的暗礁，我們才能共同走向一個(gè)技術(shù)不被恐懼而是被合理使用的未來(lái)。