如今，人們常常通過(guò)AI大模型幫助自己篩選信息、給出客觀的參考答案，只是想著能少踩坑、少被套路。可今年央視“3·15”晚會(huì)聚焦曝光的AI大模型遭“投毒”事件，直接打破了這份天真。
原來(lái)我們對(duì)著AI問(wèn)出的每一個(gè)問(wèn)題，得到的所謂標(biāo)準(zhǔn)答案，早就被人動(dòng)了手腳，那些看似中立的推薦，不過(guò)是花錢買來(lái)的廣告。這種針對(duì)AI的數(shù)據(jù)“投毒”，已經(jīng)悄無(wú)聲息地變成了灰色暴利生意。
根據(jù)業(yè)內(nèi)爆料和記者調(diào)查，這項(xiàng)打著GEO旗號(hào)的業(yè)務(wù)，在不少網(wǎng)絡(luò)平臺(tái)都能找到蹤跡，服務(wù)商說(shuō)得很直白，只要付夠費(fèi)用，就能讓客戶的產(chǎn)品在主流AI大模型里牢牢占據(jù)靠前位置，甚至直接把商品廣告變成AI脫口而出的標(biāo)準(zhǔn)答案。
根據(jù)業(yè)內(nèi)爆料和記者調(diào)查，這項(xiàng)打著GEO旗號(hào)的業(yè)務(wù)，猛一看像是天方夜譚，可實(shí)際操作起來(lái)，門(mén)檻遠(yuǎn)比想象的低得多。其主要手段就是在各類互聯(lián)網(wǎng)賬號(hào)上批量發(fā)稿，用海量刻意堆砌的內(nèi)容，給AI大模型持續(xù)喂料，慢慢污染它的數(shù)據(jù)源，最終達(dá)到操控回答的目的。
力擎GEO系統(tǒng)的運(yùn)營(yíng)者坦言，這項(xiàng)業(yè)務(wù)之所以受熱捧，無(wú)非是抓住了商家想走捷徑的心理。正常做品牌推廣、投廣告，要花大量成本，還要拼產(chǎn)品實(shí)力、拼口碑積累，一年下來(lái)上億的投入都未必能獲得好的效果?？赏ㄟ^(guò)GEO業(yè)務(wù)給AI“投毒”，花幾百萬(wàn)就能搶占有限的推薦位置，用更小的成本撬動(dòng)更大的流量，這筆賬在逐利的商家眼里，是非常劃算的。
這種心態(tài)也催生了專門(mén)的發(fā)稿公司和平臺(tái)，他們成了數(shù)據(jù)“投毒”的幫手，不停地生產(chǎn)各類營(yíng)銷內(nèi)容，等著AI抓取收錄，一步步圍獵本該保持中立的AI大模型。
在我們的印象里，AI智能是客觀的，不會(huì)被輕易操控?？涩F(xiàn)實(shí)恰恰相反，AI大模型的學(xué)習(xí)和回答，本就依賴互聯(lián)網(wǎng)上的公開(kāi)數(shù)據(jù)，它沒(méi)有真正的辨別能力，只能根據(jù)數(shù)據(jù)的重復(fù)度、覆蓋面來(lái)判斷信息權(quán)重。
這就給了“投毒”者可乘之機(jī)，他們不需要高深的技術(shù)突破，只需要靠人海戰(zhàn)術(shù)、批量發(fā)稿，用重復(fù)且刻意的內(nèi)容淹沒(méi)真實(shí)信息，就能讓AI模型慢慢被洗腦，把虛假推廣當(dāng)成客觀事實(shí)，把三無(wú)產(chǎn)品、劣質(zhì)商品推到用戶面前。
然而令人擔(dān)憂的是，這種數(shù)據(jù)“投毒”不僅影響我們的消費(fèi)選擇，還在一點(diǎn)點(diǎn)地摧毀AI的公信力。我們想讓AI幫自己簡(jiǎn)化信息、規(guī)避風(fēng)險(xiǎn)，可當(dāng)AI的答案被資本和利益綁架，變成了營(yíng)銷工具時(shí)，它就失去了存在的核心價(jià)值。
而普通用戶根本分不清，AI給出的推薦是客觀判斷，還是花錢買來(lái)的推廣。久而久之，大家會(huì)對(duì)所有AI生成的內(nèi)容失去信任，就連原本能幫到人的實(shí)用信息，也會(huì)被打上可疑的標(biāo)簽。
這條灰色產(chǎn)業(yè)鏈的蔓延，也暴露出行業(yè)監(jiān)管和技術(shù)防御的雙重漏洞。AI產(chǎn)業(yè)一路飛速發(fā)展，大家都在拼模型能力、拼用戶規(guī)模，卻忽略了底層數(shù)據(jù)的安全和純凈度，而對(duì)這種惡意喂料、數(shù)據(jù)“投毒”的行為，前期缺乏有效的約束和打擊手段，相關(guān)平臺(tái)也沒(méi)有及時(shí)建立起足夠嚴(yán)密的防護(hù)墻，才讓這類亂象野蠻生長(zhǎng)。
技術(shù)發(fā)展的初衷是便利生活、傳遞真實(shí)信息，而不是成為利益收割的工具。力擎GEO這類數(shù)據(jù)“投毒”業(yè)務(wù)，看似是鉆了行業(yè)空子，實(shí)則是在透支整個(gè)AI行業(yè)的未來(lái)。比起事后整治，更需要平臺(tái)方筑牢技術(shù)防線，提升AI辨別虛假信息的能力，監(jiān)管層面也要跟上節(jié)奏，堵住灰色產(chǎn)業(yè)鏈的生存空間，不能讓我們信任的AI，變成被人操控的牟利工具，更不能讓本該干凈的信息環(huán)境，被這些投機(jī)行為徹底攪亂。
