首頁 >> 頭條新聞
智能革命與國家治理現代化初探
2020年08月12日 07:53 來源:《中國社會科學》2020年第7期 作者:高奇琦 字號

內容摘要:在智能革命的背景下,人工智能技術至少在資源豐富、共識達成、充分回應等方面為國家治理現代化形成重要助力;但亦在安全風險、公民隱私和公平難題等方面對國家治理提出新的挑戰。

關鍵詞:

作者簡介:

  摘要:智能革命給人類社會帶來的深遠影響正在逐步顯現,也必然深刻影響并參與國家治理現代化的進程。國家治理現代化的目標是建構一種平衡型國家,其要義是國家與社會的動態平衡。在智能革命的背景下,人工智能技術至少在資源豐富、共識達成、充分回應等方面為國家治理現代化形成重要助力;但亦在安全風險、公民隱私和公平難題等方面對國家治理提出新的挑戰。區塊鏈的分布式賬本技術、加密技術以及多中心化特征等,則為解決安全、隱私及公平難題提供了思路,從而為智能社會中秩序系統、賦權系統與創新系統的發展完善提供支撐。作為程序智能,人工智能與區塊鏈共同強化了國家的剛性治理,對于國家治理現代化具有重要意義。然而,程序智能更多體現的是程序正義,過度倚重程序智能可能會出現異化風險。要實現實質正義就需要在剛性治理和彈性治理之間進行平衡。彈性治理要求國家與社會對一些核心價值的定義達成充分共識,合力保證人類在治理實踐中的自主性,并在保障國家治理能力有效性的基礎上充分對社會個體進行賦權和鼓勵社會單元的創新行為。因此,智能革命加持的國家治理現代化,不僅要實現整體性國家力量的增強,還要回到個體本身,以每個個體的全面發展和解放為旨歸。

  關鍵詞:智能革命 國家治理現代化 人工智能 區塊鏈

  作者簡介:高奇琦,華東政法大學政治學研究院教授(上海201620)。

  

 

  目前,人類正處在第四次工業革命啟動的初始階段。第一次工業革命和第二次工業革命都是圍繞動力提升展開,即通過動力革命提高人們利用和改造大自然的能力。第三次工業革命則主要圍繞信息加工展開,即通過信息革命提升人類社會成員之間交互的信息密度和質量。第四次工業革命與第三次工業革命既有關聯,也有本質不同。兩百年來,中國首次走到世界工業革命的最前列,與其他大國共同處于第三次工業革命和第四次工業革命的交替階段。第四次工業革命被描述為智能革命,其重點是對人類智能的模擬和提升。通過對未來智能體的構建及對人類智能的模擬,人類社會可以在更大程度上提高生產力,并逐步形成人類與智能體充分互動的行為模式和關系結構。智能體可能會獲得某種類主體地位,這與之前人類社會的運作方式大為不同。國家治理現代化被認為是工業現代化、農業現代化、國防現代化、科學技術現代化之后的第五個現代化,是上層建筑的現代化。國家治理現代化處理的更多是人類社會內部復雜的政治和社會關系問題。智能革命作為正在發生的新工業革命將對國家治理現代化產生深刻影響。本文將圍繞智能革命對國家治理現代化的整體結構性影響展開討論,著重分析智能革命中最關鍵的人工智能和區塊鏈兩大技術如何重構和影響國家治理體系和治理能力,力圖通過平衡型國家的建設對科技產生的強大結構性力量進行約束和規范。

  一、國家治理現代化的內涵及目標

  國家治理現代化是指,國家作為治理的整體性單元,促使政府、經濟、社會等多元主體通過協商和對話等制度性形式,實現公共目標和推進公共利益的整體性活動。國家治理現代化的第一階段可看作國家建構的馬基雅維利時刻,側重于搭建國家的整體治理結構。其中最關鍵的是,形成可以向社會汲取資源的財政系統和壟斷暴力使用的懲罰系統。第二個階段則是在國家建構的基礎上,各方面都有較大程度的發展,重點體現在國家治理體系和國家治理能力的建設上。

  國家治理體系至少包含如下三個方面的核心要素。其一,秩序系統。國家治理體系的秩序系統體現在對不同社會力量的整合上。國家可以通過整合為社會成員提供相對穩定和安全的秩序。這是國家作為公共物品提供者最基本的功能。其二,賦權系統。國家需要保證每個公民應有的基本經濟和社會權利。同時,國家作為共同體同樣需要著眼于公民自身基本目標的實現。其三,創新系統。為了維系巨大的財政開支,以及在國際體系中處于相對有利的位置,國家需要保持旺盛的創新能力。創新系統可以使得國家更有效地應對社會變遷,同時也能在國際競爭中處于相對優勢位置。國家治理體系的重點是系統性,即這些構成要素要完備。

  國家治理能力是國家對各種治理資源經過特定機制的合成和轉化所產生的國家治理效能。國家治理能力建設的重點是對實際治理問題的解決。因此,國家治理能力建設的關鍵是基于國家治理的實際過程和績效對國家治理能力進行準確評價,其中最重要的評價是強度評價和有效性評價。強度評價是指對國家治理能力強弱的評價。有效性評價是指對國家治理能力解決問題實際績效的評價。每個國家會基于自己的歷史因素,形成國家治理體系中的特色,同時也會表現在國家治理能力上。當然,這種有效性要根據社會所面臨的主要問題情境來進行判斷。例如,一個國家在某些問題的應對上相對有效,在另一些問題上可能未必有效。因此,有效性評價是一種相對動態的評價。

  國家治理現代化的目標應該是一種平衡型國家。平衡型國家的要義是國家與社會的平衡。在國家發展過程中,國家和社會的力量之間會存在一種相對的不平衡。從學術發展脈絡來看,治理理論是從社會中心的視角出發,強調要通過社會訴求來規制國家和政府的行為。而國家治理則強調國家的主導作用。從實踐來看,西方工業化國家從自由放任到官僚統治再到協作治理的每一次轉型背后,都伴隨著國家與社會關系的調整與平衡。例如,美國在早期的國家構建和國家發展的過程中,就形成了較強的社會力量,所以從羅斯福新政以來,美國國家發展的目標是行政化和集權化。而法國和德國在早期的國家現代化過程中,國家力量更強一些,因此在二戰之后兩國國家發展的目標則更多是社會化。中國自改革開放以來經歷了數次重要的社會轉型。中國在應對轉型沖突中采取的政治體制改革就是為了在穩定基本政治制度的基礎上吸收民主的要素和形式,擴大社會的民主參與。黨的十八大以來,中國的社會政策進一步強調對弱勢群體的關心與對農村和落后地區的扶助,在促進社會發展的同時維護社會公平正義,有效化解了經濟社會發展不平衡的矛盾。

  因此,平衡型國家是國家治理現代化更高層次的目標。這里的平衡是一種動態平衡,或過程中的平衡,即通過持續不斷的調整來維持新的平衡。主要包括如下三點:第一,系統間平衡。當一個國家的秩序系統過強時,可能會對賦權系統和創新系統形成抑制。同樣,對社會的過度賦權,可能會導致秩序系統受到更大挑戰。創新系統同樣需要秩序系統和賦權系統的支撐。琳達·維斯(Linda Weiss)和約翰·霍布森(John Hobson)將這類系統間平衡稱為國家的“協調能力”(coordinating capacity)。第二,強度平衡。一個理想的現代化國家的國家治理能力不應過強或過弱,而應該適度。國家治理能力過強可能會使得動員型治理成為常態,社會活力會大大下降,創新系統也可能會受到抑制。邁克爾·曼(Michael Mann)提出了基礎性權力的概念,并認為基礎性權力是一種雙向車道,即其可以通過國家來協調社會生活,同時也使得市民社會可以控制國家。這一概念之中包含有國家治理能力不應過強或過弱的內涵。第三,情境平衡。國家治理能力在不同情境下的表現會明顯不同。例如,在應對危機時,基于強國家能力的動員型治理會更加有效,但是動員型體制在常態下會體現出行政成本過高的問題。因此,國家治理能力需要在非常態和常態的不同情境下形成動態平衡。另外,某些制度的形成是在之前的社會結構和情境之下,但是伴隨著社會變遷或者外部條件變化,在新的情境下同樣需要動態調整。

  平衡型國家與智能革命互為條件,且互相影響。一方面,智能革命可以進一步助力于平衡型國家的建設。智能革命中的核心技術可以統稱為智能技術,包括人工智能、區塊鏈、大數據、量子計算等。從技術上講,大數據是弱人工智能的基礎。目前,弱人工智能更多地體現為數據驅動的智能;而未來的強人工智能和超級人工智能會更多與生物智能、腦科學、基因技術等結合。因此,大數據并不能反映未來智能技術更重要的方向。量子計算可能是未來智能技術的一個重要突破口,但目前還主要在實驗室階段,并面臨諸多結構性困難。對于國家治理現代化而言,人工智能和區塊鏈是智能技術中最為關鍵的兩大技術。國家治理現代化的實現首先要依賴各方面制度和資源的進一步集聚,而人工智能可以在這種集聚中發揮重要作用。在資源和權力集聚的過程中,國家會處于更有優勢的地位,因此如何對社會進行賦權就會成為國家治理現代化的重點,而區塊鏈作為最重要的分布式技術恰恰可以在社會賦權中發揮重要作用。另一方面,平衡型國家建設可以幫助我們更加準確地把握智能革命給整個社會帶來的變革性影響。如何把握這些科技力量,讓其真正地對人類社會和國家治理發揮出建設性作用,這是一個重要的政治學問題。平衡型國家所強調的系統間平衡、強度平衡和情境平衡,對于我們系統把握智能革命帶來的深刻影響有重要意義。

  二、人工智能對國家治理現代化的助力與挑戰

  人工智能是用人為的方法來模擬人類或其他生物,以實現一些自動化的任務。人工智能進一步可區分為專用人工智能、通用人工智能和超級智能。專用人工智能又稱為弱人工智能,是在特定領域具備專業知識的智能體;通用人工智能又稱為強人工智能,是能夠使用知識并較為靈活地處理一系列更為抽象和開放問題的智能體。目前,實踐中運用的人工智能主要還是專用人工智能;通用人工智能則是未來智能技術的主要發展方向。通用人工智能的進一步發展就是超級智能。尼克·波斯特洛姆(Nick Bostrom)將其分為高速超級智能、集體超級智能以及素質超級智能。簡言之,超級智能就是在多個領域都超越人類智能的新型智能體。在通用人工智能和超級人工智能的發展過程中,腦科學、神經科學和基因技術等對生物體的智力、行動以及進化規律等內容的研究日益發揮著重要作用。卡里姆·阿約巴(Kareem Ayoub)和肯尼思·佩尼(Kenneth Payne)認為,在未來(專業人士的估值從20年到幾百年不等),人工智能可以發展出與人類相匹配甚至遠遠超過人類的一般智能,從而具備在不同問題上進行衡量的復雜主觀價值。

  人工智能技術的本質是集聚,其特點是“眾智成城”。與人類的智能相比,構成人工智能的每一個計算單元看似微不足道,但是通過并行計算,智能體加總起來就會產生巨大的力量。因此,大數據技術是人工智能的基礎。就目前而言,大數據的充分運用正在貫穿從個體到政府的各個維度,可以將更多的治理主體整合到整體性的社會治理之中。整體來看,人工智能對國家治理現代化具有的根本性意義主要體現在如下方面。

  第一,以人工智能技術為支撐的智能革命推動的生產力革命,可能會有效解決人類社會長期面臨的資源緊缺問題。人類歷史上,許多爭斗和競爭都與資源稀缺密切相關。隨著人工智能的不斷深入應用,絕大多數產品將逐漸由機器進行生產。因為機器可以通過不斷循環來進行生產,因此生產力水平將不斷提高。從這個意義上講,勞動者對商品的價值定義會越來越弱,商品的價值會越來越趨向于低成本或者免費。克里斯·安德森(Chris Anderson)在《免費:商業的未來》中指出,數字化技術使得產品的實體制造成本越來越趨向于零,同時其再生產的邊際成本也趨向于零。杰里米·里夫金(Jeremy Rifkin)也指出,數字化時代的到來會促使資本主義市場經濟向協同自治的共享經濟轉型。目前中國的數字經濟規模居于世界第二,人工智能正在深刻變革各行各業。因此,由智能革命所推動的生產力革命將為人類提供充足的生產和生活必需品。

  秩序系統、賦權系統和創新系統都高度依賴于資源的分配。國家治理中秩序系統面臨的挑戰,主要以激烈沖突或暴力的方式加以呈現,而絕大多數暴力活動都是圍繞著資源分配展開的。賦權系統則更加依賴于資源的分配。無論是對公民個體所需的公共物品的滿足,還是對公民各項權利的保障,都要建立在生產力高度發達的基礎之上。創新系統主要涉及經濟單元或社會單元基于個性化和多樣性的社會需求而進行的創新性活動,這同樣要依賴生產力的高度發展。正如馬克思對未來理想社會的描述,“那時,一方面,社會的個人的需要將成為必要勞動時間的尺度,另一方面,社會生產力的發展將如此迅速,以致盡管生產將以所有的人富裕為目的,所有的人的可以自由支配的時間還是會增加。因為真正的財富就是所有個人的發達的生產力。”顯然,這個每個人都得到自由、充分發展的自由人聯合體,是以生產力極大發展為基礎的。整體而言,智能革命為這些系統的高效運行提供了良好的基礎。

  第二,人工智能技術有助于解決社會賦權之后的共識達成難題。國家治理現代化中的一個經典難題是,當社會被充分賦權之后,很可能會對秩序系統形成較大壓力。這其中最為困難的是如何將個體的意見加總并在集體層面形成共識。塞繆爾·亨廷頓(Samuel Huntington)認為,如果缺乏制度化的渠道,公民政治參與意愿的集中迸發會對社會秩序系統形成巨大挑戰。而集體行動的低效率也是困擾人類行動的頑疾。賦權系統在發展之后對秩序系統形成壓力,可能會導致整個國家治理的效率降低。由于人們在集體行動中需要大量協商,而反復協商會造成談判成本增加。例如,民主程序為政策出臺提供了合法性依據,然而如果在政策制定之前,對所有相關方都進行充分聽證和協商,那么繁瑣的程序往往會導致政策制定的低效。如果集體行動中成員的數量較少,那么達成共識的概率和效率都會提高。然而,一旦集體行動的人數增加,那么集體共識往往會與個體意愿之間產生巨大張力。如果充分尊重個體意愿,那么集體行動的效率就會大大降低。

  對此,人工智能可以為解決共識達成的效率難題提供助益。其一,人工智能可以通過算法直接加總和集聚人們的意愿。人工智能技術可以把人們的意愿分類,通過關鍵詞提取、合并同類項等做法,把人們的意愿凝聚成一些重要觀點,然后再通過自然語言對話等技術反復確認不同公民的政務需求,最終通過機器實現對公民政務需求的分類和統計。此外,對不同觀點進行匯總可以梳理出公民對政務的新需求,也可以提供一些問題解決的新備選方案。其二,人工智能可以作為一種協調方案幫助人們更容易達成共識。中國在推進依法治國的過程中,利用人工智能進行信息連接和跨界融合,既擴大了參與主體又可以廣泛收集民意。人工智能的內核是人類已有活動規則的算法化。人工智能發展的基礎是大數據,即需要依靠大量的人力在數據上做標注。人工智能中的監督學習算法就是把人類活動的規則以標注的方式記錄下來,再通過算法將標注結果和原則用程序固定,最后用算法固定的程序來指導實踐活動,并不斷重復這一結果。簡言之,人工智能在實際中的應用本身就在運用人類共識。當然,從技術層面看,如何將公民的意愿集聚以及建立何種類型的算法模型無疑是未來重要的研究議題。這其中尤其涉及算法民主化的問題。換言之,最早用于訓練的數據和算法規則對于結果是至關重要的,因此要運用充分的民主程序來保證早期數據和算法的多元性。總的來說,在人工智能的基礎上,協商民主的目標將更加容易實現,可以為民眾意愿的集聚以及反饋提供新的平臺。

  第三,人工智能作為輔助技術會在一定程度上緩解國家—社會交互需求的過載難題。無論是賦權系統還是創新系統,都高度依賴經濟和社會單元的個體性。伴隨著國家治理現代化的不斷推進,經濟或社會單元的交互需求不斷疊加之后會對國家系統形成巨大壓力。現代社會的一個重要特征是,政府需要及時回應社會的需求。這種回應能力也成為民眾評價政府的重要標準之一。公務員數量有限,難以提供具有充分回應性的公共服務;而由于公務員需要稅賦來支撐,公共服務數量的增加反過來又會形成巨大的稅負壓力。

  人工智能的應用,為極大提升政府回應民眾訴求的能力提供了可能。從電子政務所依賴的基礎技術來看,第一代電子政務主要基于門戶網站。這種網站將公共服務集中于某一頁面,最大缺點是界面不友好。一方面,民眾要在密密麻麻的網頁中尋找自己需要的服務,再登錄填寫;另一方面,當公共服務的種類越來越多時,人們面對密集的網頁往往會缺乏耐心,往往會放棄從中獲取公共服務。第二代電子政務基于搜索引擎。民眾可以通過搜索引擎自主找到所需服務,相對于第一代門戶網站而言無疑是一個進步。然而,搜索引擎存在著不精準的問題,即對一個問題的搜索可能會得出多個不確定的答案。實踐中,往往無法及時回應不同民眾的需要。例如,在地方政府數據開放平臺的建設中,地方政府在數據傳播和互動反饋方面存在不少問題。

  第三代電子政務是基于人工智能的對話系統。通過自然語言處理技術,公民可以通過對話方式直接表達政務需求,如通過某個APP或智能實體(可以是智能音箱或實體對話機器人)咨詢公共服務。智能對話系統可以使電子政務實現全天候的公共服務。在某種意義上,智能體可以作為政府工作人員的重要輔助工具,與民眾進行充分、友好的協商和溝通。目前國內基于開放數據的利用已經具有一定的實踐,但仍處于起步階段。未來的第四代電子政務則基于更加精準的個性化系統。傳統公共服務的特征是千人一面,目標是公共服務均等化。而在個性化推薦算法的基礎上,則可以實現一對一、千人千面的公共服務。今天,這一算法已經充分運用在今日頭條等新媒體領域。通過個性化推薦算法的運用,可以提高公共服務個性化和精準化的程度,同時可以運用公共數據對公民需求進行更加精準的畫像。在這一背景下,公共服務要逐漸從均等化轉為多樣化和個性化。因此,基于人工智能,交互難題可以得到一定程度的解決,而公民的個性化需求在一定程度上能得到滿足。當然,在實現政府對公民需求的回應性方面,人工智能技術的作用應該定位于輔助功能。對于那些對人工智能缺乏信任或不習慣的公民(特別是老年人群體),政府仍然應該保持傳統的交互渠道。

  可見,人工智能至少在資源豐富、共識達成、充分回應這三方面對國家治理現代化形成重要的支撐。然而,人工智能卻對國家治理現代化又提出了新的挑戰。這些挑戰包括但不限于如下內容。

  第一,對人工智能的過度依賴可能蘊含更大程度的安全風險,而安全風險會對秩序系統構成重要的潛在威脅。為了高效率地解決問題,國家在治理現代化過程中不得不依賴大量的人工智能技術,然而人工智能本身卻蘊含著新的安全風險。人工智能產生的集聚效應使得傳統社會越來越向數字化、透明化和公開化的方向發展,這使得信息處于“網絡裸奔”的狀態。信息基礎設施一旦面臨恐怖主義或其他打擊,那對人類社會造成的影響可能會非常巨大,而且很可能會在危機中形成某種連鎖反應。烏爾里希·貝克(Ulrich Beck)指出,人類社會越發展越體現出風險社會的特征,而風險更多來自人類社會自身。這一點在智能革命的背景下體現得更加明顯。國家治理的整體協調和運營都逐漸交給算法控制的信息中心,而一旦這些信息中心遭受攻擊或出現一些不可預知的問題,那么國家和社會所承受的損害就會非常大。因此,信息設施逐漸成為國家治理的重要基礎設施,而如何防止針對信息設施的恐怖主義活動可能成為未來國家安全的重大難題。

  第二,智能設備的泛在化可能會對公民隱私構成威脅,從而對賦權系統形成潛在壓力。在利用人工智能實現社會治理的過程中,總是存在便利性與缺陷性的矛盾。社會越智能化,公民的隱私可能會越少。目前的智能家居設備在家庭中大量出現。之前家庭被認為是個人隱私存在的重要場所,然而這些基于語音或視覺識別技術的智能設備出現在家庭中,在某種程度上意味著對私人領域的入侵。大量的私人信息會被采集到相關服務提供商的服務器上,隨時都可能面臨被濫用和商品化的風險。

  第三,人工智能的集聚效應會使得公平難題更加顯著,從而使得賦權系統和創新系統面臨壓力。人工智能可能會帶來生產力的革命,但人工智能巨大的集聚效應有可能會導致財富向少數群體集中,這就需要國家在其中發揮重要的平衡作用。在人工智能時代,超級大公司對資源和信息壟斷的情況會更加突出。達娜·博伊德(Danah Boyd)和凱特·克勞福德(Kate Crawford)認為,大型數據公司對數據有著絕對的壟斷性權力。馬克·安德烈耶維奇(Mark Andrejevic)也認為,大數據的發展可能加劇數字時代的權力失衡。國家要通過相關的制度安排,使得整個社會在智能革命中整體獲益。這其中的關鍵是,那些在智能革命中利益受損的群體,作為共同體成員的基本生存和發展權利需要得到充分保障。簡言之,要從帕累托改進的意義上來推動智能革命。如果大量的社會群體在智能革命中利益受到損害,那么這些群體很可能會聯合起來反抗智能革命,最終會影響智能革命的進程。

  三、區塊鏈技術對國家治理現代化的影響

  對于人工智能可能給國家治理帶來的新挑戰,區塊鏈的技術特征可能會形成某種“解構”的力量。技術專家在討論去中心化自治組織時,也將區塊鏈與人工智能作為并列的技術加以討論。所謂區塊鏈,是指以區塊為單位儲存信息,將區塊首尾相連而形成的信息鏈。就其本質而言,它是一個共享的數據庫,存儲于其中的數據或信息,具有“不可偽造”“全程留痕”“可以追溯”“公開透明”“集體維護”等特征。一般來講,基于某一應用場景會形成相應內容的區塊鏈。例如,版權區塊鏈被用來實現版權保護,而學歷區塊鏈則被用來證明學歷的真實性。區塊鏈將來發展的最終形態是基于區塊鏈的互聯網。區塊鏈互聯網不同于傳統的互聯網。傳統互聯網是基于TCP/IP協議形成的,以連接為第一要義。傳統互聯網考慮的核心原則是將人們之間聯結起來,沒有更多考慮價值傳遞、安全性等要素。而以區塊鏈為特征的新型互聯網則以隱私、安全以及價值傳遞為核心要素。

  區塊鏈目前的應用主要在三個層次。第一層次是數字貨幣,包括比特幣以及其他競爭幣。一些主權國家推動的國家數字貨幣也屬于這一層次。第二層次是智能合約。智能合約通過嚴格的制度與規則把雙方的合約內容固定下來。在未來,智能合約中最為重要的一環是資產上鏈。未來許多財產都需要通過信息化的方式進行存儲,而一旦觸發合約的相關條件,合約就可以自動執行。第三層次是智能社會。區塊鏈技術最終會與人工智能形成合流,并共同對智能社會的構建形成支撐。梅蘭妮·斯萬(Melanie Swan)認為,區塊鏈技術是對人工智能和人類的增強。區塊鏈思維可能會產生新的共識模式,為人類社會向多智能體共存的智能社會演進提供助益。智能社會是在人工智能和區塊鏈技術等技術的合力加持下形成的全新社會形態。人工智能的不斷進步會催生各種類型智能體的出現。因此,在人類與智能體之間以及智能體自身之間都會產生復雜的關系網絡,而這些關系網絡的聯結和維系都需要建立在區塊鏈技術的基礎之上。

  就技術特征而言,區塊鏈是分布式賬本、點對點傳輸、共識機制以及加密算法等技術的組合,對于人工智能可能引發的國家治理難題提供了一些解決的方案。

  第一,區塊鏈的分布式賬本技術有助于解決安全難題,利于在智能社會中構建更加完整的秩序系統。

  分布式賬本技術的理念是“不能將雞蛋放在一個籃子里”。由于信息分布地存儲于不同的數據庫中,一旦某一數據庫信息遭受攻擊或篡改,其他的信息庫數據則可以作為備份。因此,分布式賬本技術最重要的內涵是其可以保障“賬本”的信息準確以及免于攻擊。這里的“賬本”不僅是指商業活動中的信息往來,而且包括社會活動中的信息交互。由于人們把大量的信息都記錄在信息系統中,這使信息系統的安全性尤為重要。分布式賬本的技術便是在這一需求下應運而生,這在計算機科學中也被稱為容災備份或冗余備份,就是一旦出現災難或黑客攻擊等異常事件時,可以有足夠多的備份來驗證之前的交易記錄。

  未來智能社會發展的關鍵是在信息系統的基礎上構建更加完整的秩序系統。近年來,關于民主理論的最新進展之一是將民主的要義解釋為相互監督。約翰·基恩(John Keane)認為,民主的重要內涵是在相互監督的背景下約束利益相關方的行為。因此,構建信息社會秩序的關鍵就是要在整個信息系統上建立起可追溯機制,即在路由器等連接終端上建立起記錄功能,將相關者的網絡行為以某種加密方式記錄下來,并予以留痕。例如,中國在國家數字貨幣的研發過程中,就采用了區塊鏈技術與中心賬本的雙層設計,這樣既可以與現有的體系相銜接,又可以保障支付過程、用戶數字貨幣錢包以及運營機構的安全。當然,這種全程可追溯的留痕可能會對隱私造成潛在的不利影響,因此加密保存就會變得非常必要。國外已經有研究討論了區塊鏈在遏制物聯網安全漏洞中的重要作用。未來如果發生黑客入侵事件等,都可以通過溯源方式進行辨明和確認。這種方式盡管無法從根源上阻斷黑客入侵,但是可以更好地實現事后追責,并且相關損失也可以做到可記錄和可衡量,會對黑客入侵及其破壞舉動形成威懾效應。

  第二,區塊鏈可以通過加密技術對賦權系統形成重要支撐,從而保護公民的基本權利和自由空間。

  隱私的本質是公民自由,即公民需要一定的獨立空間,以自主做出選擇。隱私保障了個體獨立做出選擇的權利,對于現代社會的形成具有重要意義。傳統隱私保護的方法是界定隱私與非隱私的邊界。例如,家庭被視為隱私的重要場所,所以被定義為私人領域。西方一些重要概念如公民不服從等,都是對隱私保護這一元概念的延伸。馬克思在討論未來自由人的聯合體時也強調每個個體的自由的、充分的發展。馬克思和恩格斯寫道:“每一個單個人的解放的程度是與歷史完全轉變為世界歷史的程度一致的。”這里的個體自由就需要在私人領域中的隱私保護來加以實現和維系。

  區塊鏈中的加密技術可以對隱私保護提供有效支撐。由于賬本分散存儲在多個行為體中,因此相互對賬便成為客觀需要。相互對賬就是通過廣播把交易的信息告知所有的信息持有人。這其中存在的問題是,記賬信息在廣播過程中可能會出現隱私泄露。加密技術則可以在廣播過程中對傳遞的信息進行加密。目前,運用最廣泛的是哈希算法,即將所傳遞信息通過哈希函數轉化為256位的二進制字符串。這種算法可以保證記賬方可以通過字符串來確認某一記賬行為,同時記賬方無法通過這個字符串反推出其中的信息,這就在保護隱私的同時實現了各個分布式數據庫之間的信息同步。另外,非對稱加密技術可以有效地實現機密信息的交換。非對稱加密需要兩把密鑰,即公鑰和私鑰。這兩把密鑰是相對的,用一把公鑰加密就必須要用相對應的私鑰解密。弗朗西斯科·雷斯圖恰(Francesco Restuccia)的研究指出,區塊鏈通過非對稱加密算法給參與者提供信息保護,既可以實現數據公開,也可以保障參與者的個人隱私。此外,密碼學方法通過哈希函數來實現信息的加密同步,時間戳技術則可以將訪問者對信息訪問的時間以及形式都記錄下來,以避免信息被濫用,也可以有效防止國家權力的過度使用。

  第三,區塊鏈的點對點傳輸技術,有助于形成新的分配機制,將價值通過去中心化的方式直接分配給勞動者,從而蘊含了更多向社會賦權并更有效率地解決公平問題的潛能。

  “技術—政治”理論指出,技術變革可以重新配置不同機構的權力關系。技術的動態進步可以擴大原有權力的權力范圍,并且可以通過分解有爭議的權力來創造新的權力。點對點傳輸意味著可以在任意兩點之間直接進行信息交互,其最早應用于數據下載。中心化下載的用戶需要從中心網站進行下載,很容易造成用戶擁堵,而點對點傳輸可以實現分散下載,解決了信息擁堵和資源壟斷的問題。從這一意義上講,區塊鏈技術是人工智能集聚效應的反向力量。從歷史發展來看,點對點實際上是人類自發秩序的產物。在人類社會早期,點對點體現在人們的物物交換之中,但隨著社會規模和交易范圍的不斷擴大,如何在大型社會中實現點對點傳輸便成為難題。區塊鏈所建立的價值互聯網可以將人類社會的不同需求與產品在新型互聯網中直接對接,同時通過智能合約的方式來保障合約的執行與對違約的懲罰。因此,克勞斯·迪克斯邁爾(Claus Dierksmeier)等認為,區塊鏈所主張的多中心化系統可以打破傳統的中心化結構,并為構建開放包容的生態環境提供基礎。

  對于國家治理而言,區塊鏈技術可以在保證秩序系統穩定的同時,盡可能通過公正的方式激發社會的創新需求。在經歷了現代化的資源集聚之后,公平問題成為人類社會更加顯著的問題。馬克思提出通過革命方式消除資產階級對無產階級的剝削,其目的就是為了最大程度地消除社會不平等,并根本性地解決公平問題。約翰·羅爾斯(John Rawls)提出從社會最不利者的視角出發思考社會問題,并系統闡發了實現社會正義的理念,也是為了解決社會分配中的公平問題。而埃莉諾·奧斯特羅姆(Elinor Ostrom)的公地悲劇理論,更是提出了如何在公平與效率之間取得平衡這一人類社會發展長期面臨的難題。在馬克思描述的自由人聯合體中,每個人都可以得到自由而充分的發展,所有的價值都可以被勞動者擁有。而新型互聯網則為勞動者和需求者之間直接建立聯系提供了條件,從而避免了超額價值為中間商獲得的情形。中國在提供最低社會保障的過程中,也可以通過區塊鏈來確保相關物資或資金的正確使用。基于區塊鏈以及未來的國家數字貨幣,中國可以通過對資源和財富的高效使用來更好地消除貧困和改善人民生活。

  區塊鏈還有助于解決國家治理現代化中的腐敗難題。首先,在智能合約中,由于大量的信息存儲于區塊鏈中,所以信息上鏈本身就意味著信息的透明度會增加。而在公開和透明的交易過程中,腐敗問題會逐步減少。其次,在區塊鏈技術的基礎上,崗位流動會逐漸成為常態。傳統科層制的制度設計使得政府公務員的管轄內容和崗位相對固定,那么尋租行為就會隨之而生。區塊鏈技術有助于實現崗位的流動。例如,傳統海關檢查中的報關和抽檢行為主要通過固定的某一海關的檢查員進行,因此行賄者就可以盯準某一檢查員展開行賄活動。如果在智能合約的基礎上,通過建立全國性的海關抽檢平臺,實現檢查人員的隨機抽檢,相應的腐敗行為會大大減少。從這一意義上講,區塊鏈為公務員崗位的高效流動提供了技術支持。傳統的崗位流動建立在公務員的物理流動這一基礎上。而區塊鏈技術可以使公務員通過信息平臺在不進行物理流動的基礎上完成人員輪崗,實現更加人性化的人員流動。

  總的來看,區塊鏈的多中心化特征為解決公平難題提供了路徑,也使其成為人工智能技術的某種反向力量。從有效性看,人工智能無疑會大幅提高生產力,增強應對危機和風險的能力;同時,人工智能也會增強各個系統數據的交互性,從而增強國家治理體系的系統性。因此,人工智能會大幅增加國家權力。而區塊鏈則是一種基于數字信任的多中心,其本質是以社會為中心的一種權力結構。區塊鏈通過數字信任和密碼技術來充分保障社會單元的各項權利,可以在一定程度上形成社會對國家權力的平衡。

  上述關于區塊鏈技術對安全、隱私和公平三大難題的解決,更多是基于學理上的討論。基于理念的差異,區塊鏈可分為公有鏈、私有鏈和聯盟鏈三種形式,而在具體實踐中,目前主要是在主權區塊鏈和私權區塊鏈的不同方向上展開競爭。

  公有鏈承載著區塊鏈發展的原初意愿,其支持者也被稱為區塊鏈原教旨主義者。公有鏈的理念是去中心化,其典型代表是比特幣。公有鏈的優勢在于通過算法和技術保證信任和公平,缺點是低效。比特幣需要全網廣播,即將所有人的交易信息同步給所有的參與者,且需要每十分鐘確認一次交易。此外,比特幣采取了工作量證明的方法,即計算能力最強的“礦工”得到比特幣作為獎勵,這在很大程度上也導致了巨大的能源消耗。私有鏈是基于中心化思路形成的區塊鏈,其代表為支付寶。私有鏈達成共識的成本較低、使用便捷,但往往會導致壟斷與不公平現象。因此,區塊鏈原教旨主義者認為私有鏈并不是區塊鏈。聯盟鏈介于公有鏈和私有鏈之間,核心理念是多中心,強調效率與秩序的并存。阿爾溫德·納拉亞南(Arvind Narayanan)等認為,追求絕對的去中心化是不現實的,不僅會導致效率的喪失,其要求的完全去監管化也會遭到民族國家和政府的反對。因此,中間方案應是多中心化或弱中心化的結構安排。這意味著區塊鏈在實踐過程當中,很可能會形成另一種形態,即主權區塊鏈。

  主權區塊鏈是主權國家主導的、帶有多中心特征的、以加密技術和分布式賬本為內核、以聯盟鏈為主要形態的區塊鏈類型。由于在推動智能革命中處于優勢地位,國家不會輕易將治理主體完全轉移給社會。因此,國家會結合新型技術做一些調整,會在技術革命的規則重塑之中強化國家的權力。主權區塊鏈就體現為國家權力和社會權力的復合形態。主權區塊鏈可以看成國家運用新技術強化國家能力的一種表現。主權區塊鏈的運用有助于在智能社會中構建更加良好的秩序社會,但也可能對賦權系統和創新系統形成一定的限制。因此,需要在主權區塊鏈的基礎之上,充分發展以社會為中心的其他類型的區塊鏈,從而形成扁平化和網絡化的“多中心社會結構”。

  中國目前正在推動的DCEP(Digital Currency Electronic Payment)是主權區塊鏈的代表形態。主權區塊鏈在應對安全和公正這兩個難題上更有效,但也可能加劇個人隱私保護的難題。比特幣、以太幣等屬于典型的私權區塊鏈。私權區塊鏈更容易實現隱私保護,然而其在公平問題上又會產生新的困境,同時面臨嚴重的效率難題。因此,技術方案不可能一勞永逸地解決所有問題,并且技術在實踐中的應用會發生變化,這使得技術對問題的解決不可能是線性的。某一類問題解決之后,有可能會產生其他新的問題。因此,安全、隱私和公平這些核心難題的解決最終仍然要更多地依賴于人類的政治系統。

  四、走向平衡型國家:在剛性治理與彈性治理之間

  人工智能和區塊鏈對于國家治理現代化都有著十分重要的意義,對于平衡型國家的建構發揮著獨特的作用。

  首先,人工智能和區塊鏈的相互結合有助于實現國家治理體系中三大系統間的平衡。系統間平衡是在秩序系統、賦權系統和創新系統之間形成相對平衡。對于秩序系統而言,人工智能作為一種集聚性技術,其推動的生產力革命和共識革命自有積極之處,但其加劇的安全挑戰又會對秩序系統形成某種潛在威脅。對賦權系統而言,人工智能的影響同樣復雜。一方面,生產力革命會使得社會產品豐富,這是社會賦權的物質基礎。共識革命和交互革命對于社會賦權也都有積極意義。另一方面,人工智能所加劇的隱私侵犯問題又不利于賦權系統。對于創新系統而言,人工智能的影響同樣具有兩面性。生產力革命會給創新者提供基本物質條件,同時共識革命可以把創新者的個體創新努力在更大的共同體層面集聚起來。然而,強共識和強秩序在一定程度上會對創新系統形成壓制,并且人工智能所引發的公平問題對創新系統同樣是不利的。區塊鏈從分布式賬本、加密技術和點對點技術的角度希望對人工智能發展所產生的問題進行整體性的回應,以此可以協助人工智能回應其在三大系統中面臨的新挑戰。例如在智慧法院的建設中,北京、廣州等一些地區利用區塊鏈技術開展的電子證據保護,就是為了解決人工智能發展中產生的電子證據問題。

  其次,人工智能與區塊鏈的相輔相成有助于形成強國家—強社會的平衡。從整體上講,人工智能技術會進一步加強國家在治理過程中的能力和權力,因為智能技術更多代表的是一種集聚性力量。而政治系統通過區塊鏈技術可以進一步增強社會的力量,逐步發展出強社會特征,從而有效地對強國家進行平衡。因此,區塊鏈的多中心內涵和分布式技術特征,對于進一步加強社會的能力和活力從而實現強度平衡具有重要意義。

  必須指出的是,人工智能技術和區塊鏈技術都無法自身獨立地實現情境平衡。因為,人工智能和區塊鏈本質上都是相對固定的、模塊化的程序,是一種程序智能。區塊鏈是基于密碼技術的自動合約體系,其本質是一種當條件達成后可以自動執行的程序。人工智能背后最重要的是算法,而算法的本質是一種基于程序的解決方案。程序智能在設計之前都會有基本的情境設定,這意味著當情境轉換之后,程序智能會囿于剛性而無法進行主動的彈性調整。因此,盡管我們要依靠人工智能和區塊鏈技術全力推動國家治理現代化,但對平衡型國家的整體掌握仍然需要政治實踐者和社會科學學者共同努力,而不是簡單地把問題變成技術問題,并交由技術來解決。可見,這不僅僅是情境平衡的問題。在平衡型國家的另外兩大平衡即系統間平衡和強度平衡中,政治方案仍然需要由政治系統來實現,而不是由技術系統來做出。

  當然,以程序智能為核心的剛性治理對于國家治理現代化而言至關重要。剛性治理就是以規則為基礎的,程序性的、模式化的治理。現代化是從傳統向現代的轉變過程,國家治理現代化則是以國家為單位的整體社會從傳統轉向現代的變遷過程。傳統社會的治理往往以人為中心加以展開。例如,馬克斯·韋伯(Max Weber)強調的克里斯瑪型權威就是以魅力型領袖為中心的政治體制。在傳統社會中,大量使用的人倫規則往往是富有彈性和變化的,因此傳統政治結構更多地體現出庇護政治的特點。在現代化進程中,庇護政治成為不成熟政治的典型形態,其最直接的表現就是在政治過程中賄選的常態化以及腐敗行為的蔓延。鑒于此,國家治理現代化的一項重要標志就是用法理型權威來替代傳統型或魅力型的權威。換言之,國家治理現代化最重要的內容之一就是法治化,即通過剛性的、程序性的規則來消除人為的、傳統的因素。十九屆四中全會所強調的制度建設,即堅持和完善中國特色社會主義制度,其核心要義就是要通過制度化和程序化的方式,逐步替代政治生活中的人為因素和非固定因素。對于這一進程,程序智能可以提供較大助益。

  人工智能與區塊鏈所形成的合力在消除國家治理現代化過程中的傳統因素方面可以起到非常重要的作用。比如,信任是經濟社會和社會活動的重要前提,而信任關系的建立涉及普遍的社會規范和制度。區塊鏈作為一種與社會組織直接相關的技術,可以為社會信任的建立提供外部的制度保障。同時,區塊鏈通過人工干預的一致性算法進行操作,一旦達成協商一致的意見,就不能輕易修改。因此,哈佛法學教授勞倫斯·萊斯格(Lawrence Lessig)提出“代碼即法律”的觀點,而區塊鏈則在技術基礎上形成更加剛性的、不可違背的“絕對法律”。可以預期的是,未來在國家數字貨幣發行的基礎上,個人的重要資產都可以實現上鏈。這樣,一旦條件達成,許多交易會自動完成。再者,區塊鏈所形成的智能社會可以通過超越資本主義的方式重構平臺,從而極大地提高勞動效率,降低交易成本,讓價值歸勞動者。天津、貴州、浙江等省市通過建設大數據電子政務平臺,實現了政務數據的開放共享和企業數據的有序流轉。政府的行政效率在智能社會也會大大提升,并通過一些更為傾向弱勢群體的方法來保障社會公平,減少政府官員的尋租行為。

  整體來看,在人工智能和區塊鏈技術的基礎上,可以幫助國家在社會中形成明確有效的規則,促進政府治理體系與智能體系相融合,最終建立高效透明的高質量決策體系和低成本的人機共生體系。因此,程序智能對于有效推動國家治理現代化的實現意義重大。

  然而,過度倚重程序智能的風險不容小覷。在目前的智能革命過程中,已經出現了一些異化的端倪。例如,在西方的選舉政治中,科技公司通過大數據和人工智能的方法對選民意愿進行深度挖掘甚至加以操控的情況已經出現。此前在美國大選中爆出的劍橋分析事件便是如此。再如,深度偽造技術的發展可能會導致后真相社會的來臨。基于人工智能的深度偽造技術具有很強的偽裝性,極難加以鑒定,如果無法對其進行有效限制,未來對法庭證據以及誠信社會的建設都會形成巨大沖擊。在智慧法院的建設中,對于普通民眾而言,甚至可能會放棄對真相的追尋,轉而冷漠地接受大量偽造信息的沖擊。盡管區塊鏈技術在未來有望化解這一問題,如可以通過視頻生成后的時間戳以及個人數字身份等技術來確保信息的真實性,但這一過程具有很強的不確定性,且需要大量實踐加以驗證。這些例子都說明,國家治理現代化的過程依然非常艱巨。我們既需要依賴程序智能來幫助國家治理實現跨越性的發展,但也必須意識到程序智能可能給國家治理帶來的新挑戰。

  程序智能異化最糟糕的結果是人類自主性的消失。羅素和諾維格認為,人工智能的成功可能意味著人類厄運的開始。例如,人們經常使用高德地圖進行定位和導航,那么就會逐漸習慣依賴算法來辨別方向,而喪失自己辨別方向的能力。再如,如果長期使用智能輔助審判系統,法官很可能逐漸從主體性角色轉變為客體性角色。在機器的剛性智能約束下,法官需要有非常強的自主性才會去挑戰算法做出的決定,法官最終很有可能變成程序智能的確認者。這時,輔助審判系統就會變成真正的審判系統,而人類行為則變成了輔助。這一點與黑格爾(Hegel)的主奴辯證法邏輯非常相似。主人和奴隸的區別本來是,主人擁有生產工具,而奴隸沒有。然而,由于奴隸長期與生產工具在一起,所以奴隸在實際意義上擁有了生產工具,最后奴隸在某種意義上變成了主人。這一點可以換用到人與機器的關系上。本來人是主人,機器是服務于人類的工具。但是,由于機器本身就是生產工具,且在實踐中長期發揮作用。假如人放棄對算法的約束并不再獨立做出判斷,那么人與機器的位置和角色可能會發生互換,這就是黑格爾講的主奴身份的轉化。因此,主奴辯證法提醒我們更加深刻地思考國家治理現代化的意義以及人類自主性的問題。

  智能革命無疑會強化國家剛性治理的能力,而國家權力的強化可能會對社會力量形成一定的壓力。生活在算法和人工智能的包圍之中,人的空間變得越來越狹小。通過在各個專業性領域實現對相關從業者的超越,人工智能可能會使人成為“不被需要”者。哈貝馬斯將技術對政治的主導稱為技術統治,并主張通過民主參與來限制“技術政治的誘惑”。因此,在智能革命的背景下,強調彈性治理更加重要。簡言之,程序智能在推動國家治理現代化的過程中,可以更大程度地實現程序正義,而要保證國家治理現代化更高層次的實現,則需要在程序正義和實質正義之間進行平衡。程序正義更多代表了一種剛性的治理框架,而要實現實質正義則需要在剛性治理和彈性治理之間進行平衡。

  彈性治理的意義就是要重新回到人本身,重新找到共同體之下的自由,保證經濟和社會單元具有充分的活力和創造性,并實現國家與社會之間的動態平衡。因此,彈性治理并不是要回到傳統治理的框架,而是要在現代治理的框架內給個體賦權和創新留下足夠的空間。具體而言,彈性治理的要義如下。

  第一,對一些核心價值的定義需要在國家與社會之間達成充分共識。我們可以借助人工智能和區塊鏈技術來推動國家治理現代化,但一些涉及關鍵的核心問題,決定權仍要充分掌握在人類社會手中,而不能完全交由人工智能的算法。因為,治理的關鍵是調整人與人之間的關系。盡管新興技術為關系革命提供了新的技術條件支撐,但本質上人類社會問題的解決仍然要在公開、公平、公正等基本價值上展開。對于這些價值的本質性定義仍然要回到政治哲學的基本內容和范疇之中。剛性技術僅僅提供一些硬性的實現方式,而柔性的討論以及關于價值的定義仍然需要專家、民眾以及政府的合力。這種共識對于智能社會中的秩序系統構建具有重要意義。

  第二,國家與社會應合力保證人類在治理實踐中的自主性。彈性智能的關鍵是人類自主性。以下三點對于這種自主性的保障極為重要:其一,機器人永遠是輔助;其二,人類決策占比不低于黃金比例;其三,人類應時刻把握著人工智能發展的節奏,并隨時準備好暫停或減速。在國家治理現代化過程中,人類需要時刻把握智能革命的節奏。中國在2019年6月發布的《新一代人工智能治理原則——發展負責任的人工智能》中提出“敏捷治理”原則,就是要求治理主體通過及時發現和解決可能的風險,并把握人工智能發展的方向和未來。國家在掌控智能革命節奏的過程中發揮重要作用,而社會同樣需要充分參與到智能社會相關規則的討論和制定之中。一旦在智能革命發展中某些情形可能會挑戰或突破人類規則的紅線,那么就需要國家與社會及時決策和定奪。

  第三,在保障國家治理能力有效性的基礎上對社會個體進行充分賦權。智能革命是一部加速器,其導致的極化效應很可能會使個體在技術進步中面臨困境。共同體就是一種彈性環境,可以保障人成為共同體中的自由人。馬克思提出的解決方案是一種新的政治制度,即建立一種保障每個人得到全面和自由發展的共同體。馬克思在《〈黑格爾法哲學批判〉導言》中深刻地指出:“人不是抽象的蟄居于世界之外的存在物。人就是人的世界,就是國家,社會。”在這里,馬克思所指的人并不是獨立的人,抽象的人,而是共同體之中的人。智能革命越向前發展,個體越需要共同體這一彈性環境來保障其自由和權利。

  第四,國家應在生產力革命的基礎上充分鼓勵經濟和社會單元的創新行為。程序智能的優勢是標準化,而人類智能的優勢是想象力。從數據利用的特征來看,人類智能所依賴的是小數據而非大數據。人類智能的特點是舉一反三,即通過很小的數據量就可以進行推理和判斷。人類智能的重要優勢是在想象力的基礎上構建意義世界。在未來生產力高度發達的階段,想象力將成為人類彈性智能的重要部分,也構成創新行為的基礎。程序智能留給人類的自主性空間較小,而個體在這種環境中容易喪失自我。因此,在生產力的高度發展之后,經濟和社會單元更加需要更為自主和寬松的環境,以促進創新行為的發生。

  總之,智能革命在推動國家治理現代化中更容易形成剛性治理模式。剛性治理可以迅速推進國家治理現代化在全社會的整體性落實。然而,這種剛性模式及其快速推動的國家治理現代化,可能很難對不同群體的差異性訴求進行全面和有效的回應,也可能會對某些個體的獨特性利益形成一定程度的壓抑。因此,出于對剛性治理的平衡,彈性治理的意義就大為凸顯。一方面,中國可以積極利用智能革命成果進行國家治理的制度化建設,另一方面,中國也需要推動智能革命充分向社會和個體賦權。換言之,智能革命可以對未來的國家治理現代化形成整體性塑造。國家治理現代化不僅要實現整體性國家力量的增強,還要回到個體本身。國家治理現代化的終極理想應是實現馬克思意義上的“自由人的聯合體”,即力圖推進共同體整體發展的同時,保障每個個體都能實現自由、全面、充分的發展。在這個意義上講,平衡型國家實質上是法治與自由之間的平衡。剛性治理更多地代表了以法治為要義的集體性力量,而彈性治理則代表了以自由為要義的個體性力量。智能革命所帶來的巨大的解放力量,不僅要對社會整體產生變革性影響,最終還是要回到個體本身,即實現每個個體的全面發展和解放。

    (注釋略)

 

作者簡介

姓名:高奇琦 工作單位:

轉載請注明來源:中國社會科學網 (責編:張振)
W020180116412817190956.jpg
用戶昵稱:  (您填寫的昵稱將出現在評論列表中)  匿名
 驗證碼 
所有評論僅代表網友意見
最新發表的評論0條,總共0 查看全部評論

回到頻道首頁
QQ圖片20180105134100.jpg
jrtt.jpg
wxgzh.jpg
777.jpg
內文頁廣告3(手機版).jpg
智能革命與國家治理現代化初探.jpg
中國社會科學院概況|中國社會科學雜志社簡介|關于我們|法律顧問|廣告服務|網站聲明|聯系我們
快乐赛车pk10视频 上海11选5前三 排列三和值尾走势图 体彩p3藏机图手机牛彩排 极速赛车公式大全图解 山东11选5遗漏爱彩乐 河南快三开奖结果 百家乐必胜方法 股票在底部放量下跌 山东群英会胆拖玩法 快乐十分开奖结果云南查询双色球 加拿大28单双预测计划 广东十一选五的官网网址 江西十一选五最新 东京快乐8是真的吗 广西快3开奖视频 河南快3专家预测