加強監(jiān)管讓AI造謠無處藏身

據(jù)媒體報道，近期多地公安機關(guān)發(fā)布了多起利用AI工具實施造謠的相關(guān)案件。在這個信息爆炸的時代，網(wǎng)絡(luò)謠言時刻影響著我們的生活。特別是一些涉及教育的謠言信息，傳播力強，容易造成不良的社會影響。例如，此前有人曾利用一款A(yù)I小程序，編造出“校園霸凌”的虛假信息，對被造謠的學(xué)校造成了嚴(yán)重的名譽損害。面對AI造謠這一新型挑戰(zhàn)，我們有必要健全法律法規(guī)和相關(guān)治理機制，不斷加強監(jiān)管，斬斷其背后的利益鏈條。

造謠不僅容易誤導(dǎo)公眾，還可能侵害他人合法權(quán)益，擾亂社會秩序。對此，我國刑法、民法典、治安管理處罰法以及相關(guān)司法解釋，都為打擊造謠提供了法律依據(jù)。然而，關(guān)于AI生成內(nèi)容的法律屬性及其責(zé)任歸屬仍然存在一定的爭議，或者說現(xiàn)有的法律還存在縫隙地帶和空白地帶。因此，立法機關(guān)應(yīng)當(dāng)積極回應(yīng)技術(shù)發(fā)展帶來的新問題，通過完善法律法規(guī)，進一步明確AI謠言制造者、傳播者的法律責(zé)任，為打擊AI造謠提供堅實的法律依據(jù)。

AI造謠往往依賴于特定的算法模型和大數(shù)據(jù)資源。監(jiān)管部門需要加強技術(shù)研發(fā)，或加強與AI技術(shù)企業(yè)合作，提高監(jiān)管“智能”。一方面，要運用AI技術(shù)對網(wǎng)絡(luò)信息進行智能監(jiān)測，迅速發(fā)現(xiàn)謠言的蛛絲馬跡。通過算法識別謠言的傳播特征，如關(guān)鍵詞、語言風(fēng)格、圖像識別等，實現(xiàn)謠言的自動識別和攔截。另一方面，要利用AI技術(shù)提高謠言的甄別能力，結(jié)合官方信息、權(quán)威數(shù)據(jù)等，對網(wǎng)絡(luò)信息進行實時比對，確保信息的真實性。對發(fā)現(xiàn)的網(wǎng)絡(luò)謠言，要用技術(shù)的力量第一時間“識破”謠言，然后“撕破”謠言。此外，要加大對網(wǎng)絡(luò)數(shù)據(jù)的治理力度，打擊數(shù)據(jù)造假、濫用等行為，從源頭上削減AI造謠的素材基礎(chǔ)。對于已經(jīng)投入市場的AI工具，應(yīng)定期開展檢測評估，一旦發(fā)現(xiàn)其被用于造謠等違法行為，應(yīng)立即予以警示并做出相應(yīng)的處理。

造謠的是AI，作惡的是人。以“西安突發(fā)爆炸”虛假新聞案為例，涉事賬號所屬機構(gòu)最高峰一天能生成4000至7000篇假新聞，每天收入在1萬元以上，而公司實際控制人經(jīng)營著5家這樣的機構(gòu)，運營賬號達842個。可見，這些幕后黑手才是AI造謠泛濫的根源。因此，相關(guān)部門應(yīng)建立健全AI技術(shù)應(yīng)用的審核制度，對AI算法開發(fā)者、服務(wù)提供商進行資質(zhì)審查，對成為謠言幫兇的AI運營企業(yè)和個人要依法追責(zé)。

治理AI造謠亂象，是深化網(wǎng)絡(luò)生態(tài)治理的應(yīng)有之義。只有不斷扎緊監(jiān)管的“籬笆”，深入挖掘、嚴(yán)厲打擊AI造謠產(chǎn)業(yè)鏈上下游的違法犯罪行為，讓AI造謠者付出應(yīng)有的代價，才能避免AI造謠傳播帶來的社會危害，從而為良好教育環(huán)境的營造奠定基礎(chǔ)。

（作者系江蘇沛縣融媒體中心編輯部主任）

《中國教育報》2024年07月30日第2版