今年央視“3·15”晚會(huì)聚焦“放心消費(fèi)品質(zhì)生活”的主題,關(guān)注食品安全、公共安全、金融安全、廣告市場(chǎng)等領(lǐng)域侵害消費(fèi)者權(quán)益的違法行為。
值得關(guān)注的是,本次晚會(huì)曝光了AI大模型遭“投毒”等問(wèn)題,其中“力擎GEO優(yōu)化系統(tǒng)”被點(diǎn)名。
據(jù)企查查APP顯示,涉事企業(yè)為北京力思文化傳媒有限公司。該公司成立于2018年4月,注冊(cè)資本100萬(wàn)元,企業(yè)類(lèi)型為有限責(zé)任公司(自然人獨(dú)資),2025年度參保人數(shù)為1人。公司主要經(jīng)營(yíng)技術(shù)服務(wù)、計(jì)算機(jī)系統(tǒng)服務(wù)和電腦動(dòng)漫設(shè)計(jì)等業(yè)務(wù),擁有自主研發(fā)的媒體發(fā)文及管理平臺(tái)軟件等。

企查查信息還顯示,該公司法定代表人為李千鐘,注冊(cè)地址為北京市懷柔區(qū)渤海鎮(zhèn)懷沙路536號(hào)。股權(quán)結(jié)構(gòu)方面,李千鐘持有公司100%股權(quán)。
證券時(shí)報(bào)?e公司記者多次撥打涉事企業(yè)北京力思文化傳媒有限公司工商公示電話,截至發(fā)稿均無(wú)人接聽(tīng);該企業(yè)官方網(wǎng)站目前亦無(wú)法正常訪問(wèn)。
從注冊(cè)地址看,涉事企業(yè)北京力思文化傳媒有限公司注冊(cè)地址為懷柔區(qū)渤海鎮(zhèn)懷沙路,地處北京遠(yuǎn)郊,距北京國(guó)貿(mào)約80公里車(chē)程,距慕田峪長(zhǎng)城僅5至6公里。
為何一家文化傳媒公司要注冊(cè)在遠(yuǎn)郊區(qū)?記者核查發(fā)現(xiàn),該公司注冊(cè)地址與懷柔區(qū)渤海鎮(zhèn)人民政府所在地為同一地址。
記者致電渤海鎮(zhèn)政府,申請(qǐng)到現(xiàn)場(chǎng)實(shí)地探訪采訪,被接線人員婉拒。對(duì)方解釋稱,當(dāng)?shù)卮饲伴_(kāi)展招商引資工作,“確有多家企業(yè)在此地址進(jìn)行集群注冊(cè),但所有注冊(cè)企業(yè)均不在此實(shí)際辦公?!?/p>
當(dāng)記者追問(wèn)北京力思文化傳媒有限公司的實(shí)際辦公地址時(shí),該工作人員稱并不掌握,相關(guān)后續(xù)事宜由市場(chǎng)監(jiān)管部門(mén)負(fù)責(zé)處理。
隨后,證券時(shí)報(bào)?e公司記者致電懷柔區(qū)市場(chǎng)監(jiān)督管理局辦公室,接線工作人員表示,“針對(duì)3?15晚會(huì)曝光的注冊(cè)地位于懷柔區(qū)的力思文化傳媒有限公司相關(guān)問(wèn)題,局領(lǐng)導(dǎo)高度重視,今日早上又一次召開(kāi)專(zhuān)題會(huì)議,目前正在積極調(diào)查當(dāng)中。”
北京市社會(huì)科學(xué)院研究員王鵬對(duì)證券時(shí)報(bào)·e公司記者表示,GEO引擎虛假投毒亂象,本質(zhì)是技術(shù)工具理性與資本逐利邏輯的沖突。不法分子利用AI模型依賴大規(guī)模數(shù)據(jù)訓(xùn)練的特性,通過(guò)偽造權(quán)威信源、虛構(gòu)用戶評(píng)價(jià)等手段,系統(tǒng)性污染訓(xùn)練數(shù)據(jù)生態(tài)。這種行為已突破傳統(tǒng)虛假宣傳的邊界,演變?yōu)閷?duì)AI認(rèn)知框架的底層篡改,使技術(shù)從“輔助決策工具”異化為“利益輸送管道”,嚴(yán)重動(dòng)搖公眾對(duì)人工智能的信任基礎(chǔ)。
盤(pán)古智庫(kù)高級(jí)研究員江瀚對(duì)記者表示,AI大模型被“投毒”主要存在三方面危害:一是破壞市場(chǎng)公平競(jìng)爭(zhēng)。企業(yè)通過(guò)付費(fèi)利用GEO技術(shù)操控AI搜索與推薦結(jié)果,擠占正規(guī)企業(yè)的展示機(jī)會(huì),劣幣驅(qū)逐良幣,不利于行業(yè)健康發(fā)展。二是侵害消費(fèi)者權(quán)益。AI抓取并推送虛假信息,會(huì)誤導(dǎo)消費(fèi)者做出錯(cuò)誤決策,帶來(lái)經(jīng)濟(jì)損失甚至健康風(fēng)險(xiǎn),削弱消費(fèi)者信任。三是阻礙AI產(chǎn)業(yè)創(chuàng)新。
“GEO業(yè)務(wù)帶來(lái)的虛假信息泛濫,會(huì)干擾AI大模型的學(xué)習(xí)過(guò)程,使其獲取到錯(cuò)誤的數(shù)據(jù),從而影響模型的準(zhǔn)確性和可靠性。而且,當(dāng)企業(yè)發(fā)現(xiàn)通過(guò)不正當(dāng)手段就能在AI推薦中占據(jù)優(yōu)勢(shì)時(shí),就會(huì)減少在技術(shù)研發(fā)和創(chuàng)新上的投入,轉(zhuǎn)而專(zhuān)注于如何利用GEO業(yè)務(wù)進(jìn)行信息操控。這將導(dǎo)致整個(gè)AI產(chǎn)業(yè)缺乏創(chuàng)新動(dòng)力,難以實(shí)現(xiàn)技術(shù)突破和產(chǎn)業(yè)升級(jí),最終影響我國(guó)在全球AI領(lǐng)域的競(jìng)爭(zhēng)力?!苯硎?。
談及治理路徑,王鵬建議,應(yīng)構(gòu)建技術(shù)防御、法律規(guī)制、生態(tài)重構(gòu)三維協(xié)同體系:在技術(shù)層面,搭建“預(yù)防—檢測(cè)—凈化”閉環(huán),通過(guò)抗干擾訓(xùn)練、數(shù)據(jù)溯源、多模態(tài)驗(yàn)證、動(dòng)態(tài)信源評(píng)估與專(zhuān)家復(fù)核,提升模型安全性。在法律層面,明確數(shù)據(jù)投毒行為定性,壓實(shí)平臺(tái)、服務(wù)商、發(fā)布者連帶責(zé)任,強(qiáng)化跨部門(mén)協(xié)同監(jiān)管與失信黑名單共享。在生態(tài)層面,推動(dòng)行業(yè)共建數(shù)據(jù)標(biāo)準(zhǔn),將倫理審查貫穿研發(fā)全流程,健全舉報(bào)與保護(hù)機(jī)制,提升公眾理性使用AI的素養(yǎng)。
“這場(chǎng)治理的本質(zhì)是厘清技術(shù)發(fā)展與社會(huì)價(jià)值的邊界,只有制度創(chuàng)新與技術(shù)倫理深度融合,才能構(gòu)建可信AI生態(tài),平衡技術(shù)創(chuàng)新與公共利益?!彼J(rèn)為。
