處理好生成式人工智能的意識形態(tài)風險

【主持人語：劉永謀（中國人民大學吳玉章講席教授）】近年來，以大模型為代表的AI技術發(fā)展迅猛，掀起一波席卷全球的AI發(fā)展熱潮。關注AI發(fā)展狀況的人不限于AI的研發(fā)者、推廣者和AI發(fā)展的評論者、人文社科研究者，更包括深感生活將被AI深刻影響的普通公眾。AI發(fā)展的問題不再是純粹技術問題，而是成為某種意義上的公共議題。在最近OpenAI發(fā)布Sora、馬斯克開源Grok等一系列相關事件中，這一點表現得非常清楚。在各種相關公共討論中，AI發(fā)展現狀尤其受到關注，其中的基本問題是：當前AI發(fā)展的大方向是否有問題，未來應該朝什么方向前進。為此，組織計算機、經濟學、馬克思主義理論和哲學等領域的八位學者，對AI發(fā)展現狀進行跨學科反思以期拋磚引玉，求教于方家。

本系列文章共8篇，轉載自《科學·經濟·社會》2024年第2期，本文《處理好生成式人工智能的意識形態(tài)風險》為第7篇。在文中，蘭立山分析了生成式人工智能的意識形態(tài)屬性，強調推進人工智能發(fā)展中保障意識形態(tài)安全的重要性。

黨的二十大報告指出，“意識形態(tài)工作是為國家立心、為民族立魂的工作。牢牢掌握黨對意識形態(tài)工作領導權，全面落實意識形態(tài)工作責任制，鞏固壯大奮進新時代的主流思想輿論?！碑斍?，生成式人工智能的發(fā)展帶來了諸多意識形態(tài)風險，如意識形態(tài)的滲透風險、撕裂風險、監(jiān)管風險等。因此，需要處理好生成式人工智能的意識形態(tài)問題，以維護我國的意識形態(tài)安全，推進我國意識形態(tài)工作的順利開展。

一、生成式人工智能的意識形態(tài)屬性

關于科學技術與意識形態(tài)問題的研究，并不是由于人工智能的快速發(fā)展才興起的。事實上，早在20世紀五六十年代學界就已開始對科學技術與意識形態(tài)問題進行研究，馬爾庫塞（Herbert Marcuse）、哈貝馬斯（Jtirgen Habermas）是其中的重要代表。馬爾庫塞認為，科學技術具有意識形態(tài)的性質，或者說已經成為一種意識形態(tài)，因為科學技術并不是“中立”的工具，它可以為現代政治統治的合法性及其意識形態(tài)提供辯護，是現代政治統治的重要基礎，技術理性事實上已經成為政治理性。哈貝馬斯認同馬爾庫塞提出的科學技術是意識形態(tài)的觀點，但他不認同馬爾庫塞關于科學技術本身就是意識形態(tài)的看法。在哈貝馬斯看來，科學技術之所以成為意識形態(tài)，不是因為科學技術本身就是意識形態(tài)，而是因為科學技術作為第一生產力在社會運行與發(fā)展中發(fā)揮著重要作用，進而使人們將科學技術視為偶像，即科學技術成為意識形態(tài)。在此之后，科學技術具有意識形態(tài)屬性的觀點開始被人們關注和接受。

作為當今社會最為前沿的技術，生成式人工智能也具有意識形態(tài)屬性，這首先表現為它的算法設計和使用的數據具有意識形態(tài)的傾向。生成式人工智能從設計到運用每一環(huán)節(jié)都受到算法工程師的影響，這使得生成式人工智能或多或少都會受到算法工程師價值偏好、政治取向、宗教信仰等的影響。更為重要的是，生成式人工智能需要大量的數據作為學習原料，這些數據的來源和選擇完全由算法工程師決定，一旦這些數據存在意識形態(tài)傾向，那生成式人工智能的輸出結果顯然就會具有意識形態(tài)性。以ChatGPT為例，它的學習數據主要為英語材料和表達西方意識形態(tài)的材料，中國和其他國家的意識形態(tài)內容較少。例如，當有人問ChatGPT當前的輿論趨勢及熱點時，它的回答是可以查看BBC、CNN、CBS、ABC等媒體的報道，而這些又屬于英語和表達西方意識形態(tài)的材料，因此，ChatGPT最終生成的結果就會有明顯的意識形態(tài)傾向。對此，羅扎多（David Rozado）通過對ChatGPT進行的15種政治測試指出，ChatGPT在14種政治測試中有明顯的左傾傾向。北京理工大學計算機學院的張華平等學者也得出了與羅扎多類似的結論，他們指出，“ChatGPT生成內容中存在對于中國的大量偏見言論”。

生成式人工智能的意識形態(tài)屬性還表現在它能通過自主學習和計算生成新的內容，這些內容并不是預先設計好的，而是根據用戶的提問以及與用戶的不斷互動形成的，可稱為算法意識形態(tài)（algorithmic ideology）。算法意識形態(tài)意指算法的意識形態(tài)，它強調算法具有自己的意識形態(tài)體系，抑或說算法具有自己的規(guī)則、邏輯和“想法”。盡管算法意識形態(tài)可追溯至以馬爾庫塞、海德格爾（Martin Heidegger）、埃呂爾（Jacques Ellul）等人為代表的技術實在論，但它并不是以技術實在論為理論基礎，而是以生成式人工智能的具體應用為基礎，近期備受關注的ChatGPT、Sora等生成式人工智能可以根據用戶的要求生成大量的文本和視頻等就是很好的例子。當然，ChatGPT、Sora等不僅可以生成內容，還可以根據用戶的反饋對內容進行優(yōu)化，生成的很多內容所表現出來的水平并不亞于人類的水平，甚至超過了人類的一般水平。

需要指出的是，雖然生成式人工智能可以自主學習、決策以及根據要求生成內容等現象與馬爾庫塞、海德格爾、埃呂爾等人的技術實在論觀點較為一致，但并不能因此認為生成式人工智能證成了技術實在論。這與有學者對算法治理與技術自主論的關系的看法類似，這位學者指出，可以認為算法治理（algorithmic governance）具有一定的自主性，但不能因此就認為它證成了技術自主論。

除了以上兩點內容之外，算法崇拜也是生成式人工智能具有意識形態(tài)屬性的一種表現。算法崇拜主要指人們對于算法的推崇及信任，默認通過算法計算所得到的結果的正確性，并按照算法的規(guī)則及指令來運行社會。哈貝馬斯是從科技崇拜視角來論述科學技術為一種意識形態(tài)的重要代表，他認為這種意識形態(tài)的主要表現是技術統治論或技術專家制（technoc-racy）。技術專家制思想一般可追溯至培根（Francis Bacon）、圣西門（Claude-Henri de Rouvroy）等人，主張科技專家按照科學原理、技術原則來運行與治理社會，追求社會運行與治理的科學技術化。按照哈貝馬斯的觀點，目前人們對于算法的推崇或崇拜確實可以算得上是一種意識形態(tài)。當然，需要指出，雖然算法崇拜并不是因為生成式人工智能的發(fā)展才出現的，但生成式人工智能的發(fā)展確實進一步推動了人們對算法的崇拜。因為生成式人工智能比傳統人工智能具備更強的能力，例如ChatGPT可以與人持續(xù)互動、表達與邏輯更加類人化、運用領域更加多元（可以生成建筑設計圖紙、幫助學生撰寫學術論文、預測股市波動）等。

二、生成式人工智能的意識形態(tài)風險

由于生成式人工智能所具有的意識形態(tài)屬性，這導致它存在著大量意識形態(tài)風險，主要包括以下四點。

其一，意識形態(tài)滲透風險。生成式人工智能的首要風險是意識形態(tài)滲透風險，主要指國外的意識形態(tài)通過生成式人工智能滲透到國內，進而影響我國的意識形態(tài)安全。盡管ChatGPT、Sora等生成式人工智能一再強調自己的非政治化，但它所屬企業(yè)的資本主義背景以及所使用數據主要為西方社會的數據，都說明它具有一定程度的政治化。也就是說，生成式人工智能所生成的內容是基于它使用的數據，這些數據的資本主義背景決定了它所生成的內容具有資本主義意識形態(tài)傾向?！岸苜Y本主義意識形態(tài)浸染的生成式人工智能不僅可針對我國和國際社會受眾心理弱點提供隱形滲透我國意識形態(tài)安全陣地的內容產品，助力美西方構建高維度、全方位、多視角對華意識形態(tài)滲透和攻擊輿論戰(zhàn)場，剝奪、渙散、沖垮黨和政府在國內國際意識形態(tài)領域的主導權、主動權”。因此，需要積極應對生成式人工智能的意識形態(tài)滲透風險。

其二，意識形態(tài)撕裂風險。生成式人工智能并不局限于外來意識形態(tài)的滲透，它還體現在對主流意識形態(tài)的撕裂上。主流意識形態(tài)主要指一個國家或社會占主導地位的意識形態(tài)，包括政治法律思想、道德觀念、民族精神等。一般而言，主流意識形態(tài)主要通過官媒進行發(fā)布，并以此影響公眾的意識形態(tài)認知。隨著信息時代的來臨，由于公眾獲取信息的途徑變得多樣，主流意識形態(tài)的影響力受到非主流意識形態(tài)的巨大挑戰(zhàn)。生成式意識形態(tài)的快速發(fā)展及其廣泛應用，進一步削弱了主流意識形態(tài)的影響力，使得意識形態(tài)有撕裂的風險。一方面，生成式人工智能擴大了生成和傳播意識形態(tài)的渠道，由于具有交互性、定制性、多元性等特點，相較于官方媒體或主流媒體，生成式人工智能作為一種傳播渠道更受歡迎，這削弱了主流意識形態(tài)的影響力。另一方面，生成式人工智能生成的內容存在大量虛假信息和話語偏見，特別是生成如煽動社會非理性情緒、加深社會偏見、錯誤的歷史事實等內容，這會降低公眾對主流意識形態(tài)的認同，進而使意識形態(tài)有撕裂的風險。

其三，意識形態(tài)監(jiān)管風險。對于意識形態(tài)的審查和監(jiān)管一直是意識形態(tài)工作的重要內容，特別是對意識形態(tài)內容的審查和監(jiān)管。然而，生成式人工智能的出現加大了意識形態(tài)監(jiān)管工作的難度，為意識形態(tài)的監(jiān)管帶來了諸多風險。究其原因，主要與生成式人工智能生成的內容“權屬不清、追責困難”有關。例如，用戶在與ChatGPT進行交流時生成了大量與主流意識形態(tài)不符的內容，但這些內容只是保存在ChatGPT系統中，并不對外傳播，相關部門并沒有權限對此進行監(jiān)管。當然，事實上，就算這些違反主流意識形態(tài)的生成內容被用來對外傳播，相關部門也很難監(jiān)管，因為除了刪除內容以外很難對相關責任主體進行追責。此外，相關部門就算發(fā)現并刪除這些違反主流意識形態(tài)的生成內容也解決不了根本問題，因為生成這些內容的算法和數據仍然保存在系統中，一旦有用戶問了相關問題，這些違反主流意識形態(tài)的內容將再次生成。

其四，意識形態(tài)退化風險。主要指由于對生成式人工智能過于推崇或依賴，導致人類的意識形態(tài)辨識能力退化、思考能力減弱、自主性缺失等。與傳統人工智能不同，生成式人工智能可以快速與用戶進行連續(xù)交流，并具有很強的語言理解能力和內容生成能力，使得用戶感覺是在與一個“真人”交流，進而獲得很好的交流體驗。更為重要的是，生成式人工智能還可以根據用戶的回答以及歷史記錄來不斷優(yōu)化所生成的內容，給用戶提供更多的個性化和優(yōu)質化解答與服務，特別是給用戶很多正向反饋，這將大大提高用戶對生成式人工智能的信賴和依賴。在此背景下，人逐漸失去了對意識形態(tài)問題的辨識能力，漸漸變成生成式人工智能的附屬或信徒。如達納赫（John Danaher）所言，我們生活在一個算法統治（algocracy）的社會或體制中，算法建構和限制了人類與這個體系中其他個體、相關數據、社區(qū)等的行動與交互方式。

三、占領生成式人工智能的意識形態(tài)高地

面對生成式人工智能的種種意識形態(tài)風險，需要占領生成式人工智能的意識形態(tài)高地，以維護我國的意識形態(tài)安全和推進人工智能的健康發(fā)展。為了占領生成式人工智能的意識形態(tài)高地，可以從以下四條路徑入手。

首先，堅持馬克思主義在生成式人工智能意識形態(tài)領域的指導地位。黨的二十大報告指出，“我們要堅持馬克思主義在意識形態(tài)領域指導地位的根本制度，堅持為人民服務、為社會主義服務。”生成式人工智能的意識形態(tài)問題是我國意識形態(tài)工作的一個重要內容，我們需要堅持馬克思主義的指導地位。一方面，堅持馬克思主義在人工智能領域的指導地位。生成式人工智能之所以出現意識形態(tài)風險，主要原因在于目前整個人工智能領域的發(fā)展受到資本主義意識形態(tài)的影響和主導，這使得人工智能的發(fā)展按照資本的邏輯在發(fā)展。因此，需要堅持馬克思主義在人工智能領域的指導地位，以糾正當前人工智能按照資本邏輯發(fā)展的錯誤方向。另一方面，堅持馬克思主義在生成式人工智能意識形態(tài)領域的指導地位。面對資本主義國家通過生成式人工智能滲透到我國的錯誤意識形態(tài)，我們需要以馬克思主義作為理論武器進行反駁，為我們占領生成式人工智能的意識形態(tài)高地提供理論基礎。

其次，提高生成式人工智能的自主研發(fā)水平。盡管馬爾庫塞、哈貝馬斯關于科學技術作為意識形態(tài)的思想有一些區(qū)別，但他們都表達了科學技術可以為意識形態(tài)辯護的觀點。生成式人工智能也不例外，它也在為資本主義的意識形態(tài)辯護和服務，這也是生成式人工智能存在諸多意識形態(tài)風險的一個重要原因。有學者指出，“以科技巨頭為代表的資本往往掌握最新智能技術和數據資源，在政府對科技企業(yè)依賴較強的情況下，便會授予科技企業(yè)掌握更多的數據權限，政府的權威性被削弱，而科技企業(yè)在技術上的巨大優(yōu)勢可能造成資本對意識形態(tài)話語權的壟斷?！笨梢?，規(guī)避生成式人工智能意識形態(tài)風險的重要途徑是掌握最新、最強大的生成式人工智能技術，只有如此，才能真正主導生成式人工智能的發(fā)展方向和占領生成式人工智能的意識形態(tài)高地。因而，提高我國生成式人工智能的自主研發(fā)水平刻不容緩。

再次，推進社會主義意識形態(tài)與生成式人工智能的融合發(fā)展。面對錯綜復雜的國際政治環(huán)境，想要占領生成式人工智能的意識形態(tài)高地，“除了提升科技硬實力和堅定主流價值導向外，還必須進一步講好中國故事，以‘中國話語’破解當前生成式人工智能領域盤踞的‘西方話語’”，將社會主義意識形態(tài)與生成式人工智能融合發(fā)展。第一，站好中國立場、講好中國故事，為生成式人工智能提供豐富的社會主義意識形態(tài)語料、素材。第二，運用好互聯網、大數據、生成式人工智能等智能技術傳播好社會主義意識形態(tài)，向世界各國發(fā)出中國聲音、展現中國文化，為占領生成式意識形態(tài)高地奠定話語基礎。第三，將社會主義意識形態(tài)內容融入到生成式人工智能的設計之中，以應對西方社會對生成式人工智能的意識形態(tài)操縱，為占領生成式人工智能的意識形態(tài)高地提供技術支撐。對此，維貝克（Peter-Paul Verbeek）的道德物化思想非常值得借鑒。維貝克認為，我們可以通過有目的設計來使技術具有調節(jié)人的道德選擇和行動的功能，即讓技術具有道德性。按照維貝克的觀點，我們顯然也可以通過設計來使生成式人工智能具有意識形態(tài)性。

最后，強化生成式人工智能意識形態(tài)工作的人才支撐。人才支撐是占領生成式人工智能意識形態(tài)高地的重要基礎，沒有人才的支撐很多相關工作就無法開展。然而，生成式人工智能的意識形態(tài)工作涉及諸多學科，如人工智能、政治學、傳播學等，就目前的學科設置或專業(yè)設置來看，并沒有與生成式人工智能意識形態(tài)直接相關的學科或專業(yè)。因此，為占領生成式人工智能意識形態(tài)高地，政府需要大力培養(yǎng)與生成式人工智能意識形態(tài)相關的人才。具體而言，政府既可以通過成立專門的研究院所來直接培養(yǎng)與生成式人工智能意識形態(tài)相關的人才，也可以在高校設置相關學科或專業(yè)來培養(yǎng)與生成式人工智能意識形態(tài)相關的人才。

綜上所述，生成式人工智能的發(fā)展帶來了諸多意識形態(tài)風險，我們需要采取積極措施，以占領生成式人工智能的意識形態(tài)高地。當然，需要指出，生成式人工智能對于意識形態(tài)的影響也有積極的一面，如可以極大提高意識形態(tài)治理的效率，只是本文聚焦于生成式人工智能的意識形態(tài)風險，故而對此內容并未涉及。由于生成式人工智能技術日新月異，它對于意識形態(tài)的影響也在不斷變化，因此，需要加強對生成式人工智能的意識形態(tài)研究，為維護我國的意識形態(tài)安全和推進我國的意識形態(tài)建設提供理論基礎和政策建議。