• 首頁 >要聞 >正文

    專家:人工智能對國家政治安全帶來5大挑戰

    來源:光明日報2022年06月26日

    人工智能技術的蓬勃發展和廣泛應用,給人類生產生活帶來了極大便利,同時,也對國家主權、意識形態、執政環境、社會關系、治國理念等帶來沖擊,深度影響國家政治安全。充分認清人工智能對國家政治安全的挑戰,研究應對之策,對于有效維護國家政治安全,意義重大。

    人工智能影響政治安全的機理

    作為一種顛覆性技術,人工智能進入政治領域后,既具有技術影響政治安全的一般規律,又體現出其不同于以往技術的鮮明特點。

    從技術影響政治安全的一般機理來看,主要體現在三個方面。第一,技術進步不可避免地直接或間接服務于政治安全。政治安全是國家安全的根本,經濟、社會、網絡、軍事等領域安全的維系,最終都需要以政治安全為前提條件。因此,包括技術在內的一切社會條件,首要的任務是為政治安全提供服務和保證。綜觀人類歷史上的技術進步,往往被首先考慮用于維護國家安全特別是政治安全,盡管這些技術研發的初衷并非如此。人工智能亦然。第二,政治安全與技術進步相生相克、相生相長。馬克思認為,先進技術進入政治領域后,有效提高了“社會控制和權力再生產”。同時,政治安全對技術進步的需求,反過來成為技術不斷進步的推動力。但技術并非完美的政治工具。一旦技術利用不當、發生技術失控,或者技術自身缺陷所蘊含的風險爆發,政治安全可能被技術進步反噬。第三,技術進步倒逼政治發展轉型,給政治安全帶來新課題新挑戰。從歷史上看,技術進步對社會結構、社會關系、社會文化等帶來的變化和沖擊,從來不以人的意志為轉移。當火槍火炮成為主戰兵器時,繼續用木盾藤牌來保衛政權的行為無疑是愚蠢的,迫切需要當政者轉變思想觀念,尋求能夠有效維護政治安全的新模式新方法。當計算機網絡技術逐漸普及時,西方國家政黨紛紛利用互聯網進行政治宣傳和選舉拉票。人工智能較之以往的技術,擁有前所未有的機器“主觀能動性”優勢,必將對政治安全理念、安全機制、安全路徑等帶來更大的改變。

    從人工智能影響政治安全的獨特機理來看,主要體現在兩個方面。第一,算法和大數據將左右智能機器“認知”“判斷”,繼而影響政治行為體的抉擇。人工智能的核心“三大件”是算法、算力和大數據。一方面,算法是否公正不偏袒、大數據是否真實完整未被刪減篡改偽造污染,直接決定機器的研判結果,并影響人的判斷和行為。另一方面,與傳統的人口學變量的定量分析不同,大數據、云計算、機器學習等可以將數以億計的政治行為體抽象成社會的“節點”,人工智能通過分析信息中節點的度數、介數和接近度,來揭示權力集聚規律、贏得政治威望的秘訣,這為執政安全提供了新的技術支撐和智慧渠道。第二,人工智能技術對經濟、軍事、社會、網絡、信息等領域的影響向政治領域傳導,間接沖擊政治安全。作為一項賦能性技術,人工智能正在逐漸“改寫”各領域的秩序規則,給各領域帶來機遇和挑戰。盡管以往的技術進步也是如此,但其影響的深度和廣度遠遠不及人工智能。而且,以往各領域安全問題“錯綜復雜、交織并存”的程度,也遠遠不及人工智能時代高。其他領域的安全問題一旦發酵,極有可能沖擊政治安全。

    人工智能給政治安全帶來新挑戰

    技術變革具有兩面性,人工智能既是維護政治安全的新機遇,也是新挑戰。

    挑戰之一:人工智能技術的普及應用,導致政治權力呈現出“去中心化”趨勢。在人工智能時代,數據即代表著權力。掌握數據的主體既有國家權力機構,也有個人、企業團體、社會組織等非國家行為體。“互聯網數據”結構的“多節點、無中心”設計,決定著處于線上社會任何位置的主體,均不可能比其他位置的主體位勢高。人人都有“麥克風”“攝像機”,處處都是“輿論中心”“事發現場”,這一顯著特征,弱化了傳統的線下科層制國家管理結構和單向治理模式,政治話語權由政府這個傳統的權力中心逐漸向社會層面彌散,國家治理難度大大增加,政治安全風險也大大增加。目前,這種風險已初露端倪。2019年9月,因有人線上傳播“老師辱罵原住民學生是‘猴子’”的種族歧視謠言,印尼巴布亞省爆發嚴重騷亂,導致26人死亡、70余人受傷。

    挑戰之二:隨著人工智能技術和數據壟斷持續擴張,資本權力的擴張將危及國家權力邊界。生產力的發展變化必將帶來生產關系包括政治權力結構的調整。作為“第一生產力”的科學技術,其發展進步勢必引起國家權力結構的調整。當人工智能技術廣泛應用于經濟社會各領域并引起變革時,將會推動國家治理結構與權力分配模式做出相應調整。從當前種種跡象來看,資本的權力依托技術和數據壟斷持續擴張,將成為新時代國家治理結構調整的重大課題。一方面,人工智能技術研發門檻很高,依賴于大量的、長期的資本投入和技術積累,這導致社會各產業、各階層、各人才群體間的技術研發能力、資源占有程度、社會影響力等方面極不平衡,以互聯網商業巨頭為代表的技術資本將占據明顯優勢。另一方面,人工智能技術強大的賦能作用,以及良好的經濟社會應用前景,導致資本趨之若鶩。商業巨頭實際上掌握了目前人工智能領域的大部分話語權,并正在逐步形成行業壟斷。人工智能時代,巨頭企業以強大資本為后盾,逐步壟斷技術、控制數據,或將不可避免地在一定程度上逐漸分享傳統意義上由國家所掌控的金融、信息等重要權力,進而可能插手政治事務。因此,國家是否有能力為資本權力的擴張設定合理的邊界,是未來政治安全面臨的重大挑戰。

    挑戰之三:人工智能技術及其背后的數據和算法潛移默化引導公眾輿論,進而影響人的政治判斷和政治選擇,間接把控政治走向。在人工智能時代,數據和算法就是新的權力。近年來圍繞國家大選而展開的種種政治運作顯示:擁有數據和技術能夠從一定程度上影響政治議程。據有關媒體報道,2020年美國總統大選期間,有人利用網絡社交平臺的大量機器人賬號,發布海量虛假信息,力圖影響選民的認知、判斷與選擇。類似的情況,也曾出現在2016年的美國大選、2017年的英國大選和法國大選中。這些案例非常清晰地顯示:只要擁有足夠豐富的數據和準確的算法,技術企業就能夠為競爭性選舉施加針對性影響。當某種特定政治結果發生時,人們很難判斷這是民眾正常的利益訴求,還是被有目的地引導的結果。

    挑戰之四:人工智能技術可能被政治敵對勢力用于實施滲透、顛覆、破壞、分裂活動。利用先進技術威脅他國政治安全,這樣的例子屢見不鮮。計算機網絡技術出現后,被西方國家用來進行網絡竊密、網絡攻擊、網絡勾聯、傳播政治謠言、意識形態滲透和進攻。人工智能時代,攻擊一國人工智能系統或利用人工智能實施滲透、顛覆、破壞、分裂活動,帶來的后果將比以往更為嚴重。

    挑戰之五:人工智能技術進步對主權國家參與國際競爭帶來嚴峻挑戰。人工智能是當前最尖端最前沿的技術之一,其核心技術多被美歐等發達國家所掌握。這些國家利用它提升生產自動化水平,提高勞動生產率,加快制造業回遷,將沖擊發展中國家的傳統比較優勢,使后者在國際政治經濟競爭格局和全球分工中處于更加不利的地位。通過發展軍事智能化,進一步擴大對發展中國家的軍事優勢。國家之間一旦形成技術“代差”,綜合實力差距將被進一步拉大。在這種情況下,技術強國對發展中國家實施政治訛詐和技術突襲的可能性增大。

    多措并舉,維護我國政治安全

    政治安全事關我黨生死存亡和國家長治久安,我們必須高度重視人工智能帶來的政治安全挑戰,多措并舉,綜合施策。

    人工智能技術具有高度專業性和復雜性,企業、科研機構常常處于技術創新前沿,而國家政府則往往遠離技術前沿,對技術的感知相對滯后,對技術的安全風險準備不足。為此,要強化風險意識,密切跟蹤人工智能技術和應用的發展,運用系統思維,定期研判人工智能可能帶來的政治風險,提高風險識別、防范和處置能力。要創新技術治理模式,構建政府主導,企業、研究機構、技術專家、公眾等多方參與的人工智能治理體系。“治理”不同于“管理”,管理是政府單向的行為過程,治理則是一種開放的、多個利益攸關方參與的互動過程。通過多方互動,政府既可以跟蹤掌握技術和應用的前沿動態、發展趨勢,掌控治理主動權,又有助于企業、研究機構、專家、民眾更好地了解政府關切,共商制定風險管控機制,推進治理工作的科學化民主化。

    當前,我國在人工智能技術領域面臨的最重大的安全威脅,是關鍵核心技術受制于人。從現在起到2030年,是我國搶抓機遇的關鍵期。要舉全國之力,集全民之智,打造一批國家級人工智能研發平臺,加強基礎性、原創性、前瞻性技術研發,從智能芯片、基礎算法、關鍵部件、高精度傳感器等入手,加快核心技術突破。

    沒有規矩,不成方圓。針對技術應用風險,嚴格人工智能標準制定和行業監管,確保人工智能良性發展。緊跟技術發展變化,動態修訂完善相關技術標準。加緊完善人工智能相關法律法規和倫理道德框架,對相關的民事與刑事責任確認、隱私和產權保護、機器倫理等問題予以明確,理順設計者、使用者、監管者之間的權責關系。要建立健全人工智能監管體系,形成設計問責和應用監督并重的雙層監管結構,實現對算法設計、產品開發、成果應用的全過程監管。積極促進行業自律,加大對數據濫用、算法陷阱、侵犯隱私、違背道德倫理、擅越權力邊界等不良行為的懲戒力度。要積極主動參與人工智能國際議題設置,共同應對安全、倫理、法律等諸多挑戰。抓住人工智能國際準則和配套法規剛剛起步之機,積極參與規則制定,及時宣示我國主張,努力掌握規則制定話語權和國際交往主動權。

    針對外部安全風險,加強軍事能力建設,為維護國家政治安全提供力量保證。要積極研究探索智能化戰爭理論,加快推進現代武器裝備體系和人才隊伍建設,強化智能化條件下部隊訓練演練,不斷提升我軍新時代軍事斗爭準備水平。

    (作者:許春雷,系軍事科學院博士研究生,現任河北省石家莊市鹿泉區人武部副部長)



    【新聞鏈接】

    計算力決定戰斗力

    戰爭是一門科學,也是一門藝術。戰爭中斗智斗勇,“算”起著舉足輕重的作用。被兵家奉為經典的《孫子兵法》,其制勝要訣就是廟算。“夫未戰而廟算勝者,得算多也;未戰而廟算不勝者,得算少也。多算勝,少算不勝,而況于無算乎!”“知彼知己者,百戰不殆。”“出其不意,攻其不備。”所有這些,都離不開“算”。

    “算”與戰爭須臾也不曾分開。傳統的中軍帳、參謀部、指揮所都是“中心計算模式”。制導武器出現以來,算法的關鍵性賦能作用越發明顯。從坦克裝甲車輛的主動防護系統到軍用飛機的自主控制系統,再到“愛國者”防空導彈的防空反導系統,算法已成為主戰裝備的標配。

    人工智能的本質在于計算,決定計算效率的是算法。數據、計算能力、算法是人工智能的三大要素。數據是基礎,算力是保障,算法才是人工智能的“大腦”。算法的先進程度,決定了人工智能的“聰明”程度。缺乏先進算法支撐,人工智能只能是“機器”;有了智能算法,機器就可能具有智慧、“靈魂”,就具備了自主能力。人工智能時代的“科技原力”是算法突破,算法是人工智能領域中的超尖端核心技術。從本質上講,機器學習就是人工智能的一類核心算法。

    從物理和數學角度看,戰爭本身就是一種運動,也可以用數學方法進行描述與分析。以往,受技術限制,計算多是粗略概算并服務于指揮員謀略,計算力一直是戰斗力的配角。大數據技術的開發應用,是繼云計算之后又一次頗具“顛覆性”意義的技術革命,這為應用數學工具對戰爭進行定量分析提供了動力。萬物互聯的智能化時代,“數字參謀”等人工智能軍事化應用可以加速戰場數據的信息融合,加快數據產生的速度,運用大數據方法挖掘信息寶藏成為適應時代的必然選擇,也是世界新軍事變革發展的必然趨勢。

    對于科幻電影《星球大戰》迷來說,一定會對電影中那個名叫R2-D2的機智、勇敢而又憨態可掬的宇航技工機器人留下深刻印象。它是影片男主人公盧克·天行者飛行、戰斗的重要助手。它雖然只有0.96米高,卻有一個塞滿了各種工具的附加臂,使它成為一名了不起的太空船技工和電腦接口專家。

    如今,科幻電影中的場景,正在被美軍變為現實。2020年12月15日,在加州比爾空軍基地進行的一次訓練中,美軍首次實現了AI自主控制一套軍用系統。美空軍讓AI副駕駛ARTU和人類飛行員共同駕駛一架U-2偵察機,模擬在導彈打擊中執行偵察任務。ARTU是任務的指揮官,全權操控機載傳感器應用和戰術導航系統,并與人類飛行員共享雷達,掌握著人機團隊的最終決定權。具體分工上,人類飛行員專注于尋找敵機,ARTU通過控制雷達和傳感器等系統搜尋敵方導彈發射器。最終,在沒有人類飛行員操控的情況下,ARTU自主作出決定,將雷達專門用于導彈搜尋與自我保護。對于這次訓練,美國空軍助理部長威爾·羅珀博士評價道:“算法戰的時代已經開啟。”

    “算法戰”概念源于一篇文章——2013年4月,美國智庫“大西洋理事會”發表了一篇題為《“震網”事件預示“算法戰”時代來臨》的署名文章,指出“震網”病毒是首個用算法取代人手來扣動扳機的自主武器,這預示著“算法戰”的時代或將來臨。2016年9月,哈佛大學法學院發布題為《戰爭算法問責》的研究報告,將“戰爭算法”定義為“通過電腦代碼表達、利用構建系統實現以及能在戰爭行動中運作的算法”。2017年4月,美國時任國防部常務副部長、“第三次抵消戰略”設計者羅伯特·沃克正式提出算法戰,并由其督建成立美國防部“算法戰跨職能小組”,標志著美軍智能化建設進入“快進”模式。

    關于創建“算法戰”的初衷,美國防部的表述為應對軍事行動中的海量數據處理壓力,首要任務是用于“情報戰”,即運用大數據、計算機視覺及模式識別技術,提升“處理、分析與傳送”戰術無人機獲取視頻數據的自動化水平。嚴格地講,算法本身的使用價值有限,只有與超算能力和大數據技術相結合才能產生魔力。“算法戰”的實質是“智能+”戰爭,“外殼”是軟件系統,“核心”是對數據資源的運用。智能化戰場,取得智能優勢是關鍵。而智能優勢實質是信息優勢、認知優勢、決策優勢和行動優勢的高度統一。算法作為用系統的方法描述解決問題的策略機制,算法優勢主導信息優勢、認知優勢、決策優勢、行動優勢。掌握算法優勢的一方,能夠快速準確預測戰場態勢,創新作戰方法,實現“未戰而先勝”。

    在未來智能化戰場,計算力決定戰斗力,“算法戰”蘊藏著改寫戰爭游戲規則的巨大潛力。

    【責任編輯:侯歆鈺】

    武警部隊發布網絡宣傳片《呼點》

    中國青年報客戶端2022-06-19 14:38:09

    敦煌研究院將攜手騰訊建造全真數字藏經洞

    中國青年報客戶端2022-06-15 14:59:32

    鐘南山2020年赴武漢車票等170余件展品亮相國博大展

    中國青年報客戶端2022-06-16 13:00:00

    【溫暖一平方】一間溫暖的美術教室

    中國青年報客戶端2022-06-14 20:53:13
    在线看片免费人成视频电影