ChatGPT走紅，但也帶來治理風險
(相關資料圖)
原標題：ChatGPT走紅，但也帶來治理風險
ChatGPT是人工智能發(fā)展史上又一款現象級產品。此前，人工智能領域曾多次出現過類似情況。例如，1997年，IBM開發(fā)的深藍計算機在國際象棋的世紀大戰(zhàn)中打敗了當時的世界冠軍卡斯帕羅夫；2016年，谷歌開發(fā)的AlphaGo在與世界頂尖棋手李世石的五番對決中，以4:1的成績獲勝。
但此次推出的ChatGPT不同點在于，它超越了單一的游戲領域，讓各行各業(yè)的普羅大眾直接領教了一番人工智能的魅力攻勢。特別是ChatGPT不僅上知天文、下知地理，而且在文本生產、數據分析、代碼編寫、圖像生成等多模態(tài)話語領域均體現出讓人驚艷的可靠性、高效性與邏輯性，它以生產力工具的面貌突然出現在大眾面前，也因此產生遠超以往的社會震動。已有經驗表明，人總是容易高估一年內的短期變化，卻容易低估十年內的長期變化。雖然ChatGPT發(fā)展為成熟的應用進入普通生活場景，仍需一定時日，但基于長期眼光來看，ChatGPT所帶來的風險并不會僅局限在個體層面，從社會緯度來看，這類人工智能產品或將給網絡社會治理帶來前所未有的挑戰(zhàn)。
從內容質量來看，“幻覺” (Hallucination)對真實性的污染使得未來的虛假信息治理面臨更嚴峻挑戰(zhàn)。所謂“幻覺”，指的是自然語言處理模型生成自然流暢，語法正確，但實際上毫無意義，或包含虛假信息的內容，就像人產生幻覺一樣。作為人工智能領域最先進的產品之一，ChatGPT在底層數據與核心技術方面均為世界領先，特別是其核心的人工智能語言大模型在參數規(guī)模上已經達到千億級別，這使其具備優(yōu)秀的意圖識別與語言理解能力。但是因為數據質量與技術的限制，它也難以避免幻覺現象。
幻覺問題導致一些網民在試用時發(fā)現，ChatGPT在交互中會生成不少事實性錯誤，有時對一些簡單問題也會一本正經地胡說八道。Meta公司推出的大型語言模型Galactica主打科學研究領域的內容生成服務，上線后也被發(fā)現部分生成內容失實，三天后就遭下線。因此，紐約大學教授蓋瑞·馬庫斯認為，盡管ChatGPT能夠生成合乎語言邏輯的內容，但這些內容本身并不一定真實。在隔行如隔山的今天，這種似是而非的內容對非專業(yè)用戶具有極大的迷惑性。再加上隨著現代科學的蓬勃發(fā)展，科學技術的先進性與權威性已經深度捆綁，并植入到了大眾的腦海之中。ChatGPT也可以利用這種認知慣性，裹挾著科學之威，在潛移默化中影響對特定問題的社會認知。
從信息生產與傳播角度來看，ChatGPT還實現了傳播模式的升級。就互聯網的內容生產模式而言，無論是最初的PGC（專家生產內容），還是后來大行其道的UGC（用戶生產內容），內容生產的主體都是人，但以ChatGPT等為代表的應用卻帶來新的AIGC時代（AI生產內容）。與此前的模式相比，AIGC實現了傳播主體、內容與媒介的深度一體化，標志著基于互聯網的深度媒介化進入到一個新階段。媒介化是一個宏觀層面上的概念，是對媒介效果的宏觀社會效應的一種延展，其根本點在于以此概念來理解媒介所帶來的復雜社會后果。已有研究表明，媒介化是“所有社會進程中的一個獨特維度”，媒介化學派代表性人物弗里德里希·克羅茨甚至將媒介化視為可以塑造交往形態(tài)和歷史進程的“元進程”。從這個角度來看，ChatGPT就不只是作為一種中立性和工具性的中介存在于治理體系之中，而是會成為不同利益、立場的群體進行互動的平臺和交往場域，并以其內在的技術邏輯改造傳統(tǒng)的權力運行邏輯，改變已有的權力結構，對現實社會中的利益博弈施加內在影響，從而產生廣泛且深刻的影響。
例如，雖然ChatGPT仍在試用階段，但眾多社會從業(yè)者體驗之后都感到可能被替代的擔憂。關鍵是ChatGPT還處于持續(xù)更新的狀態(tài)中，可以想見，那些擔憂并非杞人憂天，《人類簡史》的作者赫拉利所預言的大規(guī)?！盁o用階層”的出現也并非危言聳聽。雖然技術的每一次更新都會創(chuàng)造新的勞動就業(yè)機會，但落到個體的角度，卻存在各種可能的結果。由技術發(fā)展帶來的系統(tǒng)性、結構性失業(yè)問題，對任何國家而言，都是不得不防的社會風險。
這還僅僅是ChatGPT對勞資關系可能造成的影響。從技術發(fā)展的邏輯來看，賦能會導向賦權，ChatGPT延伸了個體的信息生產與傳播能力，也會因此激發(fā)社會行動者達權通變的意愿，利用相關技術與工具拓展各類權力訴求，這又可能帶來權力格局的深度調整。特別是在國際緯度，以ChatGPT為代表的人工智能與國家的信息安全、經濟發(fā)展、社會穩(wěn)定等問題息息相關，未來很可能成為大國競爭的戰(zhàn)略工具。屆時，個別國家以其技術優(yōu)勢獲得更大的霸權優(yōu)勢，將成為全球網絡治理中的新難題。
在現代社會，各類新技術一度被視為“解蔽世界的力量”而被寄予厚望，但歷史卻多次展現了事與愿違的結果。面對以ChatGPT為代表的人工智能技術可能帶來的治理風險，我們當然不能以“用勺子挖運河”的思維一禁了之，也沒必要恐慌焦慮，但是應樹立完善的技術發(fā)展與應用觀念，警惕激進主義傾向，審慎對待技術的采用和相應產業(yè)的政策制定，防止技術在利益的裹挾下無序應用。（湯景泰，作者是復旦大學新聞學院教授）
