人工智能技術(shù)，也就是大家常說(shuō)的AI，一直都被塑造成有著美好想象空間，是未來(lái)世界不可或缺的重要技術(shù)領(lǐng)域。

比如馬云曾說(shuō)，未來(lái)30年智能技術(shù)將深入到社會(huì)方方面面，徹底重塑傳統(tǒng)制造業(yè)，不會(huì)用智能技術(shù)的企業(yè)都將失敗。

比爾蓋茨也曾坦言，如果在今天尋找一個(gè)能對(duì)世界造成巨大影響的機(jī)會(huì)，他毫不猶豫地會(huì)選擇人工智能。

有幾個(gè)節(jié)點(diǎn)也讓大眾明確感受到了AI的能量。

曾經(jīng)全球矚目的AlphaGo擊敗了圍棋世界冠軍，證明了AI算力可以輕松超越最頂尖的人類圍棋高手；如今ChatGPT以及衍生應(yīng)用生態(tài)的爆火，也讓人們看到了AI大模型潛在的無(wú)限可能性。

今年在資本市場(chǎng)，人工智能同樣再度爆火了一輪。天眼查平臺(tái)統(tǒng)計(jì)數(shù)據(jù)顯示，2023上半年資本力捧人工智能市場(chǎng)，月均融資事件達(dá)48起，其中5月融資數(shù)量最多，有61起。

2023全球數(shù)字經(jīng)濟(jì)大會(huì)人工智能高峰論壇、2023世界人工智能大會(huì)等上半年科技圈的重磅大會(huì)，都把人工智能中的大模型、AGI（通用人工智能）等作為標(biāo)配的重磅話題。

然而，在我們暢想并努力通往人工智能美好未來(lái)的同時(shí)，也不該忽略人工智能正在產(chǎn)生的“惡”。至少目前從現(xiàn)實(shí)來(lái)看，人工智能帶來(lái)的東西，似乎并不如想象般美好。

AI，早已在作惡

你有沒(méi)有想過(guò)，在熱鬧的社交輿論平臺(tái)上活躍著的，或許根本不是人，而是一個(gè)個(gè)被人工智能訓(xùn)練出來(lái)的，有著人類語(yǔ)言風(fēng)格的升級(jí)版“僵尸號(hào)”？

早在2017年，這種操作就已經(jīng)受到了學(xué)者、媒體的關(guān)注。彼時(shí)鈦媒體在一篇報(bào)道中援引了芝加哥大學(xué)的一篇研究論文，稱人工智能可以被用來(lái)生成虛假、復(fù)雜的內(nèi)容信息，足以達(dá)到以假亂真的效果。

如今這樣的功能其實(shí)早已是AI最為基礎(chǔ)的能力之一了。例如完全對(duì)普通用戶開(kāi)放的微軟AI工具New Bing上，太平洋科技簡(jiǎn)單提出了生成文本的需求，給大眾點(diǎn)評(píng)榜單上熱度很高的餐廳寫幾條打卡點(diǎn)評(píng)，具體結(jié)果可以看下圖。

無(wú)論正面還是負(fù)面評(píng)價(jià)，任何一個(gè)用戶都可以使用New Bing來(lái)快速生成。從結(jié)果也可以看到，這些打卡點(diǎn)評(píng)內(nèi)容，有著豐富的細(xì)節(jié)，語(yǔ)言風(fēng)格和表達(dá)口吻也接近人類用戶，可以說(shuō)基本與真人寫的打卡點(diǎn)評(píng)相差無(wú)幾。

當(dāng)然這只是列舉一個(gè)最基礎(chǔ)的案例，要形成所謂的AI水軍，必然還有更高級(jí)的玩法。雷鋒網(wǎng)就曾報(bào)道稱，經(jīng)營(yíng)AI水軍產(chǎn)業(yè)的公司往往會(huì)使用循環(huán)神經(jīng)網(wǎng)絡(luò)、AI語(yǔ)言模型對(duì)海量的“僵尸賬號(hào)”進(jìn)行訓(xùn)練，以網(wǎng)上大量的評(píng)論素材做訓(xùn)練素材。

這樣生成的AI水軍賬號(hào)，可以按照雇主的需求，在網(wǎng)絡(luò)平臺(tái)中“指哪打哪”，比如引導(dǎo)輿論風(fēng)向，抹黑帶節(jié)奏，造謠中傷等等。這些AI賬號(hào)輸出的內(nèi)容，不僅可以躲避軟件檢測(cè)，也讓網(wǎng)絡(luò)水軍公司實(shí)現(xiàn)了“降本增效”。

這類問(wèn)題在全球互聯(lián)網(wǎng)中都普遍存在。比如2019年末，F(xiàn)acebook關(guān)閉了大量的博主、用戶賬號(hào)，原因是平臺(tái)發(fā)現(xiàn)有人使用了AI能力，將這些賬號(hào)偽裝成真實(shí)用戶，有目的地發(fā)布大量虛假消息。

還有一些有趣的事情或許可以從側(cè)面印證這個(gè)問(wèn)題。今年6月，歌手孟美岐發(fā)了一條宣傳自己北京演唱會(huì)的微博，很快評(píng)論區(qū)就有數(shù)萬(wàn)“粉絲”涌進(jìn)來(lái)留言，一條條“北京見(jiàn)”之類的留言，看起來(lái)就像一個(gè)個(gè)等待激動(dòng)赴約，到演唱會(huì)應(yīng)援偶像的粉絲。

然而尷尬的地方來(lái)了，孟美岐北京演唱會(huì)的場(chǎng)地只能容納1000多名觀眾，臨近演唱會(huì)開(kāi)場(chǎng)日期了，這1000多張票還是沒(méi)賣完。這也讓輿論調(diào)侃孟美岐微博的評(píng)論區(qū)有著大量偽裝成真人粉絲的AI水軍，評(píng)論數(shù)據(jù)很好看，但演唱會(huì)門票卻賣不完。

“商業(yè)投流里面一直都有水分，有水軍或者AI水軍在濫竽充數(shù)。”有從事流量投放、運(yùn)營(yíng)工作的投手對(duì)太平洋科技表示，流量往往按照曝光數(shù)來(lái)計(jì)算費(fèi)用，在真實(shí)流量中摻雜一些僵尸號(hào)是常見(jiàn)的情況，有了AI的加持，這種坑廣告主的行為就更難被發(fā)現(xiàn)了。

該投手也列舉了案例，比如廣告主在付費(fèi)投放之后，直播間突然涌進(jìn)大量的賬號(hào)，看似人氣漲了，但實(shí)際這些賬號(hào)基本只會(huì)刷屏“大拇指”，或者清一色發(fā)“早上好”、“晚上好”這樣的固定句式，完全沒(méi)有任何訂單轉(zhuǎn)化。

向平臺(tái)客服投訴，得到的答復(fù)也基本是說(shuō)這些都是真人用戶的個(gè)人行為。廣告主也無(wú)法分辨這究竟是AI水軍來(lái)濫竽充數(shù)，還是投流失誤導(dǎo)致的非精準(zhǔn)流量。廣告主錢花了，事一點(diǎn)沒(méi)辦成，相當(dāng)于只能吃啞巴虧。

AI，也在污染“當(dāng)下”

“我現(xiàn)在每天的創(chuàng)作，其實(shí)相當(dāng)于AI洗了別人的稿，我再稍微洗一下AI的稿。”自媒體從業(yè)者阿波對(duì)太平洋科技坦言，有了類ChatGPT這樣的AI工具之后，他的“創(chuàng)作效率”飆升。

阿波表示，以前一篇文章從選題確立，到查找內(nèi)容，再到構(gòu)思組稿，往往需要花挺長(zhǎng)時(shí)間，但現(xiàn)在有了AI之后模式就不一樣了，只需要把話題和內(nèi)容需求提交給AI，AI就會(huì)在網(wǎng)絡(luò)上搜集信息并重新組成一篇新的文字內(nèi)容，也就是俗稱的“洗稿”，阿波只需要細(xì)節(jié)修改調(diào)整一下，一篇完整的自媒體文章很快就能成形。

再加上現(xiàn)在市面上也有很多AI一鍵生成視頻、AI配音等工具，將文章轉(zhuǎn)為視頻再進(jìn)行分發(fā)也非常方便。

但有一個(gè)很核心的問(wèn)題，阿波也并沒(méi)有否認(rèn)，這就是信息來(lái)源的可靠性，信息本身的真實(shí)性，他作為內(nèi)容創(chuàng)作者，全然交給了AI來(lái)處理，并不會(huì)花更多的時(shí)間去求證。“我們追求的只是流量，內(nèi)容出錯(cuò)大不了刪稿就好。”

試想一下，如果輿論場(chǎng)每天為大眾提供內(nèi)容的，是無(wú)數(shù)個(gè)只求流量不管質(zhì)量的創(chuàng)作者“阿波”，會(huì)出現(xiàn)怎樣的后果？最直接的就是會(huì)出現(xiàn)無(wú)數(shù)個(gè)現(xiàn)代版的“三人成虎”案例，嚴(yán)重的話會(huì)導(dǎo)致整個(gè)互聯(lián)網(wǎng)空間充斥著謠言、虛假新聞、錯(cuò)誤信息等不可信內(nèi)容。

量子位就曾在一篇相關(guān)報(bào)道中，將這樣的現(xiàn)象稱為“AI正在污染中文互聯(lián)網(wǎng)”。

簡(jiǎn)單來(lái)說(shuō)，AI生成的內(nèi)容并不是憑空而來(lái)的，而是需要一定的信息素材作為基礎(chǔ)。當(dāng)AI因?yàn)楦鞣N原因生成了錯(cuò)誤、虛假信息后，這些信息又可能成為另一個(gè)AI生成內(nèi)容時(shí)的素材。

當(dāng)互聯(lián)網(wǎng)空間充斥著AI制造的垃圾信息后，這種無(wú)限套娃式的AI信息傳遞，就會(huì)變成一個(gè)輸入和輸出都是垃圾信息的死循環(huán)，這是一個(gè)十分可怕的糟糕局面。

AI技術(shù)，還有一些更直接的“惡”。今年5月，包頭警方公布了一起利用AI實(shí)施詐騙的案例。福州一位企業(yè)主，接到了生意好友的微信視頻電話，說(shuō)需要430萬(wàn)元急用，由于對(duì)方在視頻連線中的樣貌、聲音都與好友一模一樣，該企業(yè)主便沒(méi)有疑慮將錢轉(zhuǎn)了過(guò)去。結(jié)果沒(méi)想到這是騙子通過(guò)AI換臉和擬聲技術(shù)，假冒了“好友”進(jìn)行的詐騙。

可見(jiàn)通過(guò)AI技術(shù)的加持，騙子甚至能在實(shí)時(shí)的視頻通話中完整還原一個(gè)人的樣貌和聲音，類似這樣的詐騙案例層出不窮，光明網(wǎng)、環(huán)球網(wǎng)更是在相關(guān)報(bào)道中表示AI詐騙的成功率接近100%。

另一方面，無(wú)論是擁有百萬(wàn)粉絲的網(wǎng)紅大V，還是按部就班工作生活的普通人，都有可能被AI換臉，乃至更離譜的AI脫衣盯上。

比如據(jù)多家媒體的報(bào)道，網(wǎng)絡(luò)中有大量的不法分子通過(guò)AI技術(shù)，將一些頭部網(wǎng)紅或者女性用戶的樣貌，融合嫁接到一些裸露、色情內(nèi)容中，再有償販賣給其他用戶，這其中有的不法分子甚至能月入20萬(wàn)。

再比如今年3月，有人在廣州地鐵上拍下一女子照片后，用所謂的AI一鍵脫衣工具生成了裸露圖并在網(wǎng)絡(luò)上傳播，這一事件沖上熱搜后，也引發(fā)了大眾對(duì)于AI工具侵害問(wèn)題的關(guān)注。

此前5月份，在業(yè)界有“人工智能教父”之稱的計(jì)算機(jī)科學(xué)家杰弗里·辛頓宣布從谷歌離職，理由是這樣能更加不受限制地呼吁人們關(guān)注AI的潛在風(fēng)險(xiǎn)。

杰弗里·辛頓可以說(shuō)是AI領(lǐng)域的頂級(jí)大牛，他憑借在AI領(lǐng)域的研究貢獻(xiàn)，與另外兩名科學(xué)家共同獲得了2018年的圖靈獎(jiǎng)，OpenAI的創(chuàng)始人兼首席科學(xué)家便是杰弗里·辛頓的學(xué)生。

“現(xiàn)在似乎還很難看到如何能夠防止壞人利用人工智能來(lái)做壞事。”研究AI數(shù)十年后，辛頓如今已經(jīng)成為了AI的“末日預(yù)言者”，極力向公眾表達(dá)他對(duì)人工智能的擔(dān)憂。

當(dāng)然，行業(yè)中自然會(huì)有不同的聲音。“人工智能的風(fēng)險(xiǎn)都是可控的。”比爾蓋茨表示，AI的深度偽造、錯(cuò)誤信息、胡編亂造等問(wèn)題，的確會(huì)引發(fā)諸多風(fēng)險(xiǎn)，但他仍然樂(lè)觀的認(rèn)為，這些風(fēng)險(xiǎn)都是可控的。

誠(chéng)然，AI的未來(lái)或許是光明的，值得期待的，但這并不能掩蓋AI在當(dāng)下所制造出來(lái)的種種亂象問(wèn)題，AI所作的“惡”，都亟需得到控制和凈化，這也是AI邁向未來(lái)的必要前提。

后記

最后再用一段科幻故事來(lái)闡述一下AI這個(gè)宏大敘事中不可忽視的黑暗面。

科幻劇集《黑鏡》中，有一集的故事是這樣的。未來(lái)世界，環(huán)境改變，蜜蜂滅絕，但大自然不能失去蜜蜂，于是人類發(fā)明了機(jī)械人造蜂來(lái)替代蜜蜂在大自然中的作用。

人造蜂利用太陽(yáng)能和各種高精度的識(shí)別技術(shù)，由分布在各地的數(shù)千個(gè)高度智能化的人工智能蜂巢來(lái)管理運(yùn)行，無(wú)需人類控制便可自主完成飛行、傳粉等任務(wù)。

這個(gè)發(fā)明挽救了因失去蜜蜂而瀕臨崩潰的自然生態(tài)，當(dāng)然，這只是故事中美好的一面。

故事的另外一面，是有人黑進(jìn)了人工智能系統(tǒng)，取得了數(shù)百萬(wàn)遍布各地的人造蜂的控制權(quán)，將海量的用戶人臉、身份信息上傳到人工智能系統(tǒng)后，這些本該造福人類、自然的人造蜂，突然就成了最恐怖的武器，在AI的操控下有目的地奪走了數(shù)十萬(wàn)人的生命。

與科幻世界里想象的災(zāi)難相比，前文提到的現(xiàn)實(shí)中已出現(xiàn)的AI作惡案例或許顯得微不足道，但“勿以惡小而為之”，再微小的陰暗面都不容忽視，或許科幻片中描繪的后世災(zāi)難，正是由當(dāng)下一點(diǎn)一點(diǎn)的“惡”所積累而成。

區(qū)塊鏈、元宇宙、ARVR......科技領(lǐng)域有過(guò)太多高開(kāi)低走的爛尾故事，熱鬧過(guò)后一地雞毛。但實(shí)際上，這些代表未來(lái)的科技領(lǐng)域，或許并不該過(guò)早地被打造成噱頭，被利用來(lái)斂財(cái)。

人工智能更是如此，畢竟這項(xiàng)技術(shù)離現(xiàn)實(shí)更近，也存在著更大的失控風(fēng)險(xiǎn)。盡可能地考慮到所有可能性，用“做好最壞打算”的態(tài)度來(lái)審慎發(fā)展人工智能，是實(shí)現(xiàn)“風(fēng)險(xiǎn)可控”目標(biāo)必不可少的思路和策略。