魔法打敗魔法：社交平臺(tái)的關(guān)鍵角色
編者按：本文來(lái)自微信公眾號(hào) 師天浩觀察（ID：shitianhao01），作者：師天浩，創(chuàng)業(yè)邦經(jīng)授權(quán)發(fā)布。
【資料圖】
隨著生成式AI技術(shù)，如GPT-4等強(qiáng)大的語(yǔ)言模型的廣泛普及，人們對(duì)于AI在各個(gè)領(lǐng)域，如文本創(chuàng)作、藝術(shù)繪畫(huà)、翻譯，以及替代傳統(tǒng)的人工客服等方面的潛力滿(mǎn)懷期待。
然而，這種對(duì)未來(lái)技術(shù)的期待之余，我們也不得不面對(duì)AI技術(shù)可能被濫用的風(fēng)險(xiǎn)。讓我們關(guān)注的是，一些犯罪分子已開(kāi)始巧妙地利用AI技術(shù)進(jìn)行電信詐騙，這無(wú)疑給我們的防范帶來(lái)了新的挑戰(zhàn)。
2019年，全球首例AI詐騙案發(fā)生在英國(guó)，一名詐騙者利用先進(jìn)的AI語(yǔ)音模仿軟件，假扮公司高層，成功騙取一家英國(guó)能源公司總經(jīng)理的22萬(wàn)歐元。近期在國(guó)內(nèi)，一例更令人震驚的案件中，某公司法人在使用微信與好友視頻聊天的短短10分鐘內(nèi)被騙取了高達(dá)430萬(wàn)元。
這些駭人聽(tīng)聞的案例揭示了AI生成虛假信息所潛在的巨大社會(huì)風(fēng)險(xiǎn)，同時(shí)也讓我們對(duì)人工智能軟件被用于各類(lèi)犯罪活動(dòng)的可能性深感憂(yōu)慮。
在人工智能技術(shù)的興起之時(shí)，我們正處于尋找最佳應(yīng)用場(chǎng)景與商業(yè)落地的關(guān)鍵期。雖然這類(lèi)個(gè)別的詐騙案例不會(huì)直接扼殺AI的發(fā)展，但如果不能妥善解決相關(guān)的安全和隱私問(wèn)題，也許會(huì)對(duì)人工智能的前景產(chǎn)生負(fù)面影響，形成對(duì)AI發(fā)展的壓力。
AI詐騙：為何成功率極高？AI詐騙的出現(xiàn)在很大程度上得益于人工智能技術(shù)，尤其是深度學(xué)習(xí)和機(jī)器學(xué)習(xí)的快速發(fā)展。通過(guò)這些先進(jìn)的技術(shù)，詐騙者能夠逐步訓(xùn)練出能夠模擬人類(lèi)行為和語(yǔ)言的AI，甚至能制作出極為逼真的虛假視頻或音頻（例如：人工智能的深度換臉技術(shù)Deepfakes）。
這些偽造的內(nèi)容極度真實(shí)，讓識(shí)別真假變得異常困難，從而大大提高了詐騙者的欺騙效果。
在這個(gè)日益數(shù)字化的社會(huì)，人們?cè)诰W(wǎng)絡(luò)和社交媒體上的活動(dòng)越來(lái)越頻繁，每個(gè)人都在生成大量的數(shù)字化信息。這為詐騙者提供了廣闊的操作空間，他們可以利用這些平臺(tái)，配合AI技術(shù)，進(jìn)行大規(guī)模、精準(zhǔn)的詐騙行為。
無(wú)論是通過(guò)大數(shù)據(jù)分析來(lái)獲取被詐騙對(duì)象的行為習(xí)慣，更精確地定位其所處的社會(huì)層級(jí)和經(jīng)濟(jì)實(shí)力，還是通過(guò)熟悉的偏好接近對(duì)象，獲得其信任，最終達(dá)到詐騙目標(biāo)，都顯示了AI詐騙的高效性和隱蔽性。
詐騙者往往擁有比受害者更多的信息和技術(shù)資源，這使得受害者在面對(duì)這種高科技詐騙時(shí)，難以察覺(jué)和防御。因此，信息和技術(shù)的不對(duì)稱(chēng)性，無(wú)疑成為了AI詐騙的一大優(yōu)勢(shì)。
然而，盡管一些地方已經(jīng)開(kāi)始制定針對(duì)AI詐騙的法規(guī)，但法律和監(jiān)管的滯后也是一個(gè)不容忽視的問(wèn)題。現(xiàn)有的法律和規(guī)定往往無(wú)法跟上技術(shù)的快速發(fā)展，導(dǎo)致AI詐騙在法律漏洞中找到足夠的操作空間。
最后不可忽視的是，經(jīng)濟(jì)激勵(lì)是推動(dòng)詐騙者行動(dòng)的主要因素。由于AI詐騙往往難以被察覺(jué)，詐騙者可以獲得更高的經(jīng)濟(jì)收益。這種巨大的利益誘惑，也使他們愈加積極地進(jìn)行這種活動(dòng)。
綜上，可以看出，AI詐騙的成功率之高，主要源于其技術(shù)優(yōu)勢(shì)、社會(huì)數(shù)字化、信息不對(duì)稱(chēng)、法規(guī)滯后以及經(jīng)濟(jì)激勵(lì)等因素。
AI詐騙與傳統(tǒng)詐騙相比，成本更低隨著AI技術(shù)的發(fā)展，它不僅改變了許多領(lǐng)域的工作方式，還深刻地改變了詐騙的形態(tài)，使得電信詐騙更加難以防范。
舉個(gè)例子，AI換臉技術(shù)已經(jīng)相對(duì)成熟，可以以較低的成本合成出極其真實(shí)的動(dòng)態(tài)視頻。最近的一個(gè)案例中，一名女子被一段偽造的自己的視頻所詐騙，讓她相信自己無(wú)意間涉及了一場(chǎng)犯罪，最終被騙走了大量財(cái)物。
AI詐騙具有高度自動(dòng)化的特點(diǎn)。經(jīng)過(guò)適當(dāng)訓(xùn)練的AI模型能夠在無(wú)人工干預(yù)的情況下自動(dòng)運(yùn)行。這意味著一旦AI詐騙工具被創(chuàng)建并部署，它就可以全天候、24小時(shí)進(jìn)行欺詐行為，無(wú)需人工參與，從而降低了詐騙的人力成本。
首先技術(shù)從哪來(lái)？在GitHub等開(kāi)源社區(qū)上，就有開(kāi)源使用的AI換臉軟件。其中最知名的是Deepfacelive、Deepfacelab兩種著名開(kāi)源換臉模型。很多相關(guān)的技術(shù)社區(qū)、論壇、貼吧，有大量小白入門(mén)系列教程，甚至還有中文版AI現(xiàn)成模型下載，一些交易平臺(tái)上也有大量教程與教學(xué)包售賣(mài)，價(jià)格數(shù)元起。
此外，AI詐騙具有很強(qiáng)的可擴(kuò)展性。與需要人工參與的傳統(tǒng)詐騙方式不同，AI詐騙可以在短時(shí)間內(nèi)輕易擴(kuò)展到大規(guī)模。
舉例來(lái)說(shuō)，某詐騙集團(tuán)完全可以利用自動(dòng)撥打系統(tǒng)、AI語(yǔ)音識(shí)別和自然語(yǔ)言處理技術(shù)，日均撥打幾十萬(wàn)甚至上百萬(wàn)次電話(huà)（類(lèi)似海外ip呼出），范圍覆蓋全國(guó)多個(gè)城市。這種規(guī)模的擴(kuò)張僅需增加一些計(jì)算資源，就能讓AI詐騙影響到更多的人。
AI詐騙利用深度偽造和自然語(yǔ)言處理等技術(shù)制造出相當(dāng)逼真的假象，使得詐騙行為更難以被察覺(jué)。例如，某歐洲能源公司因?yàn)橐煌▊卧斓腃EO電話(huà)而被詐騙了約22萬(wàn)歐元。因?yàn)樗鼈兛梢栽诓槐徊煊X(jué)的情況下模擬人類(lèi)的行為，這降低了詐騙行為被發(fā)現(xiàn)和制止的可能性，進(jìn)一步降低了詐騙的風(fēng)險(xiǎn)成本。
然而，我們需要意識(shí)到，開(kāi)發(fā)和訓(xùn)練一個(gè)有效的AI模型并不容易，這需要大量的數(shù)據(jù)、專(zhuān)門(mén)的技術(shù)知識(shí)和計(jì)算資源，都需要投入一定的成本。
隨著法律監(jiān)管力度的加大和識(shí)騙技術(shù)的發(fā)展，AI詐騙的風(fēng)險(xiǎn)和成本也可能會(huì)增加。一些國(guó)家已經(jīng)開(kāi)始建立相關(guān)法律，對(duì)使用AI進(jìn)行詐騙的行為給予嚴(yán)厲懲罰。因此，盡管AI詐騙在某些方面具有成本優(yōu)勢(shì)，但實(shí)施AI詐騙仍然需要考慮多方面的風(fēng)險(xiǎn)和代價(jià)。
魔法打敗魔法：社交平臺(tái)的關(guān)鍵角色在這個(gè)數(shù)字化的時(shí)代，社交平臺(tái)顯然已成為AI詐騙的主要戰(zhàn)場(chǎng)。人們?cè)谏缃黄脚_(tái)上進(jìn)行大量的在線(xiàn)活動(dòng)和社交互動(dòng)，為詐騙者提供了豐富的目標(biāo)選擇和信息來(lái)源，使得AI詐騙在社交平臺(tái)上層出不窮。
舉例來(lái)說(shuō)，在一次針對(duì)社交媒體用戶(hù)的詐騙中，詐騙者利用AI技術(shù)模仿了受害者朋友的語(yǔ)音，發(fā)起了一次虛假的緊急求助。受害者在無(wú)法分辨語(yǔ)音真假的情況下，被騙取了大量資金。
另外，一些詐騙者使用深度學(xué)習(xí)技術(shù)制作了假冒名人的虛假視頻，聲稱(chēng)這些名人在推薦某種投資機(jī)會(huì)，從而騙取了無(wú)數(shù)人的財(cái)產(chǎn)。
社交平臺(tái)的多元性和開(kāi)放性使得監(jiān)管和防范變得困難。用戶(hù)眾多且行為各異，詐騙者往往能夠混入其中進(jìn)行犯罪行為。一旦被識(shí)別出來(lái)，他們往往已經(jīng)騙取了大量財(cái)富，并逃之夭夭。
因此，社交平臺(tái)在防止AI詐騙中扮演著至關(guān)重要的角色。它們需要利用先進(jìn)的技術(shù)手段進(jìn)行預(yù)防，制定并執(zhí)行明確的用戶(hù)政策，加強(qiáng)對(duì)用戶(hù)的教育和引導(dǎo)，以便盡可能地減少AI詐騙的發(fā)生。
升級(jí)技術(shù)魔法打?。菏紫龋缃黄脚_(tái)需要強(qiáng)化技術(shù)防護(hù)。借助機(jī)器學(xué)習(xí)等先進(jìn)技術(shù)，平臺(tái)可以檢測(cè)并標(biāo)記出異常行為或可疑賬戶(hù)。例如，通過(guò)分析用戶(hù)的行為模式，機(jī)器學(xué)習(xí)算法可以尋找并識(shí)別出與正常行為模式不符的行為，這類(lèi)行為往往暗示可能存在詐騙行為。
建立規(guī)則魔法打?。浩浯?，社交平臺(tái)應(yīng)制定并執(zhí)行明確的用戶(hù)政策。5月9日，抖音平臺(tái)發(fā)布了“關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范暨行業(yè)倡議”，明確禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容，包括但不限于肖像權(quán)、知識(shí)產(chǎn)權(quán)等。一旦發(fā)現(xiàn)違規(guī)行為，平臺(tái)將嚴(yán)格處罰。
其他平臺(tái)也需要明確說(shuō)明哪些行為是被禁止的，以及違反規(guī)定將面臨的后果。對(duì)于違規(guī)用戶(hù)，社交平臺(tái)需要設(shè)立一個(gè)公正而快速的處理機(jī)制，以確保公平對(duì)待每一位用戶(hù)。
培養(yǎng)意識(shí)魔法打?。涸僬?，社交平臺(tái)可以通過(guò)提升用戶(hù)的網(wǎng)絡(luò)安全意識(shí)來(lái)防止AI詐騙。通過(guò)發(fā)布有關(guān)如何安全使用社交平臺(tái)的教育內(nèi)容，教導(dǎo)用戶(hù)如何識(shí)別和防范AI詐騙，用戶(hù)們就可以有效地降低自身成為詐騙受害者的風(fēng)險(xiǎn)。
同時(shí)，提醒用戶(hù)不輕易信任陌生人，以及警告用戶(hù)注意保護(hù)個(gè)人信息也是重要的措施。
總的來(lái)說(shuō)，社交平臺(tái)在防止AI詐騙中扮演著至關(guān)重要的角色。
正如同一把錘子可以用來(lái)建房子也可以用來(lái)破壞房子，AI技術(shù)為社交平臺(tái)帶來(lái)更好的用戶(hù)體驗(yàn)，本身是一件好事，關(guān)鍵在于如何使用。平臺(tái)需要在多個(gè)方面采取積極行動(dòng)，以確保用戶(hù)的網(wǎng)絡(luò)安全，利用自身的技術(shù)能力來(lái)削弱AI詐騙產(chǎn)生的弊端。
結(jié)言AI詐騙無(wú)疑是當(dāng)前AI發(fā)展面臨的重大挑戰(zhàn)之一，其影響不容忽視。然而，相信有讀者會(huì)認(rèn)為將其視為壓倒AI發(fā)展的“最后一根稻草”或許過(guò)于悲觀。事實(shí)上，技術(shù)發(fā)展總會(huì)伴隨無(wú)限可能的延展，也并非危言聳聽(tīng)。
我們需要認(rèn)識(shí)到這一問(wèn)題，并通過(guò)多角度的努力，包括社交平臺(tái)的技術(shù)防護(hù)、用戶(hù)教育、法律監(jiān)管等途徑，共同應(yīng)對(duì)并降低其對(duì)社會(huì)的潛在風(fēng)險(xiǎn)。
AI詐騙的出現(xiàn)確實(shí)揭示了AI技術(shù)的一面隱患，但同樣的，我們也可以看到，眾多企業(yè)、研究機(jī)構(gòu)以及監(jiān)管者正努力在探索解決方案，以確保AI技術(shù)的健康發(fā)展和應(yīng)用。
未來(lái)，我們將會(huì)看到更多的科技創(chuàng)新幫助我們識(shí)別和防范AI詐騙，法律監(jiān)管體系將更加完善，社交平臺(tái)將提供更好的用戶(hù)安全保障。
AI詐騙并不會(huì)成為阻礙我們前進(jìn)的“最后一根稻草”，相反，它將成為推動(dòng)我們繼續(xù)前進(jìn)、發(fā)展更安全、更負(fù)責(zé)任的AI技術(shù)的重要驅(qū)動(dòng)力。我們要保持樂(lè)觀，積極應(yīng)對(duì)挑戰(zhàn)，并共同努力創(chuàng)造一個(gè)更加安全、可信賴(lài)的數(shù)字化社會(huì)。