中國網/中國發展門戶網訊 當前，數字技術已經融進社會發展的方方面面，截至2022年末，我國的數字經濟規模達到50.2萬億國民幣，占國內生產總值（GDP）比重晉陞至41.5%，這標志著我國國平易近經濟和社會發展進進了數字化時代。隨著年夜數據、深度學習等人工智能技術的飛速發展，以計算機、信息、通訊等為代表的數字技術開始慢慢轉變為以下一代互聯網、天生式人工智能、虛擬現實、數字孿生等為主的數智技術。數據與智能逐漸成為推動社會進步的焦點要素，成為經濟社會發展的新動力，以及當局和社會管理的新焦點。當下，以ChatGPT為代表的天生式人工智能正在通過年夜模子賦能引發新一輪智能化海潮，部門學者認為新一代人工智能的奇點即將到來。但是，在推動技術進步的同時，數智技術的發展也給國家平安體系帶來了史無前例的挑戰。黨的二十年夜報告對推進國家平安體系和才能現代化、堅決維護國家平安和社會穩定作出戰略安排，提出以新平安格式保證新發展格式。在社會形態發生深入變革的當下，統籌發展與平安無疑是一項復雜的系統工程。隨著數智技術從多層次的時空標準上與社會、經濟系統的各個效能結構模塊產生深度耦合，其引發了數據濫用、算法歧視、就業市場波動等一系列復雜的社會平安管理問題。面對這些困難與挑戰，深刻分析數據平安與隱私泄露、算法歧視與不公正性、技術壁壘與數字鴻溝、虛假新聞與信息操縱等數智化發展風險的內在機理，周全懂得統籌發展和平安的深入內涵，推進在經濟、社會、文明等各個重點領域的數智平安新格式建設，對保證新發展格式至關主要。本文基于總體國家平安觀，從新發展格式的國際和國內新特點出發，用微觀與宏觀視角分析了新格式下的數智平安風險，提出了構建數智平安新格式的整體框架，并討論了數智平安新格式和新發展格式的辯證關系，對數智時代的發展與平安的協同提出政策建議。
新發展格式的特點
在周全建成小康社會之后，我國開啟了周全建設社會主義現代化國家的新征程，構成了新的發展格式。與此同時，在數智技術的推動下，不斷深入變化的國際、國內形勢也給當前中國經濟社會發展帶來了新的挑戰。是以，懂得當前國際和國內形勢之下中國新發展格式所呈現出來的新特點，是構建數智平安新格式的主要條件。
國際視角
工業反動后，資本主義現代化形式極年夜地推動了生產力的進步和生涯方法的變革。但是，資本主義固有的牴觸也在不斷將整個人類的現代化進程推向高度物化和不服衡的窘境中。比擬之下，中國式現代化途徑通過構建人類命運配合體，將本國與世界的現代化發展聯系起來，是人類發展形式的創新，將深入地影響世界現代化進程。
國際上逆全球化趨勢加劇，過往幾十年構成的全球分工協作局勢正在遭到破壞。俄烏沖突、巴以沖突改變著地緣政治局勢，給世界遠景帶來宏大的不確定性。自2017年以來，american對我國實施多輪制裁，我國亦提出反制辦法，雙方政治、經貿和平安往來遭受困難。這些原因從技術、資金、市場等多個角度給我國的內部發展環境帶來了嚴峻的挑戰。
新冠疫情引發需求降落、生產萎縮、貿易受阻、物流中斷、掉業激增，全球經濟墮入闌珊的宏大風險之中。為了應對疫情，american的年夜規模財政安慰政策加劇了全球通脹，導致美聯儲開啟加息形式，全球資金流動性收緊，進而增添中國企業和當局的內部融資本錢。高強度的供給側沖擊直接體現在全球多個國家出現的年夜面積企業復工停產、職工掉業、產業鏈和供應鏈年夜范圍中斷。2023年8月的調查數據顯示：在新冠疫情的影響下，全球掉業人數從2019年的1.92億人飆升到了2020年的2.35億人。盡管該指標在2022年慢慢恢復到了2.05億人，但仍然相較疫情前增添了近1300萬的掉業生齒，且預計2023年還有上升的趨勢。
國內視角
國內經濟由高速增長轉向高質量發展。黨的十九年夜報告指出，我國社會重要牴觸已經轉化為國民日益增長的美妙生涯需求和不服衡不充足的發展之間的牴觸。新時代下，經濟發展需求從尋求數量轉向尋求更高的質量。在供給端，高質量發展意味著企業需求進行產業體系結構優化，以創新動力實現可持續發展。但這也會使企業在轉型過程中面臨陣痛和較年夜的運營壓力。在需求端，高質量發展是更均衡、更公正的發展，請求健全分派軌制，減小城鄉差距、貧富差距，晉陞國民幸福感。
疫情后國內經濟亟待重回正軌。新冠疫情后，疊加錯綜復雜的國際環境，平易近眾的動機從尋求利潤最年夜化轉為尋求負債最小化，對經濟社會發展重回正軌的期盼無比強烈。在這一階段，保證經濟平穩發展，對于平易近眾生涯與社會和諧至關主要。
新發展格式下的數智平安風險
作為當前先進生產力的代表，數智技術在新發展格式中飾演著極其主要的腳色。是以，進一個步驟推進數智技術平安可控的發展對促進經濟社會的平穩、高質量發展就顯得尤為主要。基于總體國家平安觀的理念，筆者將數智平安所觸及的風險分為微觀的技術平安、個人平安，以及宏觀的經濟平安、社會平安、文明平安等5個范疇（圖1）。此中，微觀平安問題能夠隨著系統規模的擴年夜涌現為宏觀問題，也能夠在傳播和反饋的感化下引發級聯反應，在短時間內影響到系統的各個方面。
技術平安
基礎設施平安。數智技術的運行需求依賴大批諸如服務器、數據中間和物聯網設備等基礎設施。假如數據基礎設施發生毛病、被攻擊或遭遇災難，能夠導致業務中斷、數據丟掉、服務不成用，進而帶來宏大的經濟損掉，甚至影響社會的穩定和平安。例如，2022年12月18日，阿里云噴鼻港數據中間發生年夜規模服務中斷事務，直接導致澳門金融治理局、眾多當地外賣平臺及《澳門日報》等傳媒應用法式無法應用，對澳門社會層面的平穩運行產生了嚴重影響。
數據平安。隨著科技的發展和人類社會數據量的增添，數據的平安性及泄露風險也越來越遭到人們的重視。2005—2022年，american的數據泄露事務的數目整體呈上升趨勢，僅2022年就有1802起（圖2）。在數據存儲過程中，黑客攻擊或員工忽視等能夠導致客戶個人信息、財務記錄等敏感數據泄露。在數據應用過程中，員工或其他有權限訪問數據的人能夠會濫用其權力，將出售敏感數據給競爭對手或不符合法令應用數據。2018年，英國的劍橋剖析公司在未經授權的情況下將數百萬Facebook（臉書）用戶的個人信息用于選平易近行為剖析和推廣活動，使得2家公司都面臨了嚴厲的輿論壓力、法令調查和監管限制。同年，劍橋剖析公司宣布破產。
模子平安。隨著深度學習成為人工智能模子的主流，深度神經網絡的黑盒性所帶來的平安問題逐漸成為人們關注的焦點之一。別的，在ChatGPT等年夜規模語言模子疾速席卷眾多行業和深刻人們生涯的同時，由其產生的錯誤信息也給這項技術帶來了宏大的平安隱患。深度學習模子不難遭到對抗樣本的攻擊。這些特別設計的輸進數據可以欺騙模子并導致錯誤的輸出結果，在自動駕駛汽車、醫學診斷等場景中形成嚴重損掉。年夜規模語言模子存在偏見問題。訓練方式和數據集的局限性能夠導致模子對某些人群或事物表現出不公平或不平衡的行為或決策結果。年夜規模語言模子存在幻覺問題。在當前年夜模子天生的文本中，包養網心得仍然存在看似公道但實際上是虛構或錯誤的信息，這很能夠導致應用者產生錯誤的認知。
個人平安
隱私平安。隱私平安指的是個體隱私數據泄露時，對其社會生涯的迫害。泄露的敏感信息（如成分證號、銀行賬號等）能夠導致成分被盜竊、欺詐活動，并帶來經濟損掉。別的，個人信息泄露能夠導致謠言、欺侮、騷擾等不良行為，形成精力壓力和社交困擾。好比，家庭信息泄露能夠導致敲詐訛詐和人身平安的威脅。針對英國成年人的調查顯示，21%的人擔心隱私數據被公司傳遞給包養網排名第三方，16%的人擔心成為詐騙對象，只要9%的人認為沒有需要擔心（圖3）。同樣，在一項2022年針對中國網平易近的調查中，也有31%的人經常拒絕網站的cookie（瀏覽活動記錄）請求，25.5%的人表現擔心科技公司應用本身網上數據的方法（圖4）。
心智平安。隨著數智技術的發展，人們的精力狀態也能夠遭到環境和技術的影響。例如，社交媒體的過度應用能夠導致時間浪費、社交孤立感、焦慮和抑郁等問題；信息過載和留意力疏散能夠導致留意力不集中、記憶力減退和思維混亂；網絡上的匿名性和廣泛傳播渠道使得欺負和騷擾行為加倍便捷，給受益者帶來心思傷害和自負問題。此外，數智技術還能夠形成對人類主體價值、才能、來往方法的異化，剝奪人的選擇權利，減弱人的才能，以及引發精力危機和喪掉人類尊嚴，同時也會帶來認知極化和各種社交問題。
經濟平安
技術穩定風險。隨著數智技術深刻各個經濟領域，其微觀的技術平安問題能夠引發宏觀經濟系統的風險。無論是金融領域的區塊鏈、智能風控模子，還是制造領域的供應鏈治理系統出現毛病或是遭到攻擊，都能夠會引發級聯反應，導致整個買賣系統或供應鏈系統的癱瘓，進而帶來宏大的經濟損掉。
技術壟斷風險。當少數年夜型科技公司壟斷了某個智能技術市場時，能夠減弱其他創業者和小型企業的競爭力，克制行業的創新力，阻礙市場的發展和進步。此外，壟斷企業所把持的大批用戶數據能夠侵略個人隱私權，而公眾則缺少相應的監督和干預手腕。
發展掉衡風險。在數智化海潮中，假如某些地區、群體或行業沒有捉住先發機遇，就很能夠由于缺少技術才能和資源而滯后于其他地區。研討報告顯示，中國東部地區的數字經濟發展程度明顯領先于中部、西部、東北部，出現了明顯的不服衡特征。這種數智技術的不服衡發展與資源、財富、機會的不服衡分派，能夠形成經濟波動、掉業率上升、生齒流掉、貧富差距擴年夜等問題，影響社會穩定和諧。
系統性掉業風險。數智技術的自動化才能使得許多傳統勞動任務被機器和軟件代替，進而導致制造業、批發業、在線客服、金融服務業、物風行業等傳統崗位的年夜規模掉業風險。盡管機器學習工程師、年夜語言模子的Prompt（提醒）工程師等新興崗位需求會增添，但技術轉型過程中工人技巧與人力市場需求不婚配和滯后的問題仍然能夠惹起就業市場的階段性陣痛。
社會平安
虛假信息風險。互聯網和社交媒體的普及極年夜地進步了人們的天天接受到虛假信息的風險。深度偽造技術（Deepfake）等可以天生高度真切的換臉圖片或視頻，然后用于制造政治謠言、虛假新聞或網絡欺詐。別的，惡意用戶可用ChatGPT等天生式人工智能自動產包養行情生大批虛假文本，然后通過機器人賬號等手腕，用于誤導網絡社區頂用戶的價值觀。2包養020年，american康奈爾年夜學科學聯盟的一項研討顯示全球英語媒體發布的3800余萬篇關于疫情的文章中，就有超過110萬篇文章包括虛假信息。
虛擬社交風險。隨著數智技術深入重塑當代人的社交方法，社交媒體、即時通訊東西等平臺使得人們在虛擬空間中隨時隨地與家人、伴侶，甚至全球范圍內的生疏人進行交通和互動。但是，過度的虛擬社交除了不難讓人陷溺、浪費精神，也能夠導致人們面對面的社交互動減少，從而加劇現實中的社交孤獨感。同時，一些別有效心的人可以在網絡上輕易地隱躲本身的真實成分和發布虛假信息，進而惹起誤導、欺騙等問題，給別人帶來心思上的傷害。
網絡暴力和霸凌。數智技術也極年夜地下降了網絡社交中應用辱罵、惡意評論、威脅和歧視性言論等暴力行為的門檻。惡意用戶能夠通過公開或不符合法令手腕獲取、發布或散布別人的住址、照片等私家信息，將照片進行改動甚至淫穢化處理并傳播，以欺侮別人。這些行為能夠會導致被霸凌對象出現自大、焦慮、抑郁、自殺傾向等心思問題，也能夠讓他們在未來的表達過程中選擇自我審查或緘默，墮入惡性循環。2021年1月的一項針對2251位american成年人的調查發現，41%的受調查用戶都親身經歷過某種情勢的網絡騷擾（圖5）。中國社會科學院發布的《2019年中國社會形勢剖析與預測》（社會藍皮書）顯示：中國青少年在上網過程中碰到過暴力辱罵信息的比例為28.89%。此中，暴力辱罵以“網絡譏笑和諷刺”“辱罵或許用帶有欺侮性的詞匯”居多，分別為74.71%、77.01%；其次為“惡意圖片或許動態圖”（53.87%）和“語言或許文字上的恐嚇”（45.49%）。
文明平安
消費主義。在市場經濟高度發達的社會，“消費主義”指的是個人通過購買商品和服務來尋求滿足感與幸福感的思維方法和態度。基于數智技術的各種便捷購物平臺及廣告推銷算法在下降消費門檻的同時，使得人們的消費決策更不難被操縱和影響，過度關注個人欲看和即時滿足，墮入過度消費的圈套。在這種文明慣性的驅使下，社會資源不難被浪費，個人的幸福感也在永恒的“賺錢—花錢—賺錢”循環中消磨殆盡。有研討針對中國年輕人的消費狀態和主觀幸福感進行了問卷調查，結果表白：消費主義對誕生于1995—2009年的年輕一代的主觀幸福感具有顯著的克制感化。
文明碎片化。數智化的推薦系統、個性化定制技術在進步信息搜刮效力的同時，也導致個體往往只接收同質化、單方面的信息和觀點，從而構成所謂的“信息繭房”。“繭房”中的個體反復強化本身的認知，排擠其他觀點，構成大批的同質化小型網絡社區，產生了大批的亞文明。當分歧文明佈景的個體在網上碰撞，尤其是觸及言論不受拘束、社會品德、宗教崇奉等敏感話題時，就能夠引發文明沖突和對立，加劇社會的緊張水平。
文明虛無主義。在新興的風行文明、工業文明、現代科學實用主義的影響和沖擊下，許多傳統文明的保存空間遭到了擠占，進而產生了文明虛無主義的現象。文明是國家、平易近族凝集力的基礎。自覺否認本身的文明、歷史，會極年夜地下降人們的集體認同感，進而影響意識形態的穩定性。在數智技術不斷加快文明演進的明天，若何在時代的潮水中站穩精力的腳跟，防范文明虛無主義，成為了一個主要命題。
構建數智平安新格式
黨的二十年夜報告中強調：“國家平安是平易近族復興的基礎，社會穩定是國家強盛的條件”。是以，面對數智時代下的各種平安風險，運用系統觀念構建數智平安新格式（圖6），是保證國家經濟社會安康發展和社會平穩運行的需要舉措。
進步數智技術自己的平安
面對數智技術帶來的挑戰，我們不克不及自覺拒絕技術進步，而應該嘗試進步技術自己的平安性。
加密算法和區塊鏈可以保護信息平安。在信息傳輸過程中，可以應用DEA（數據加密算法）、RSA等對稱或非對稱加密算法，以及新興的基于量子
糾纏的通訊方法下降數據不符合法令訪問、改動、竊取的風險。區塊鏈技術的往中間化和不成改動性進步了數字金融買賣的靠得住性，有助于防范系統性的技術穩定風險。
聯邦學習可以保護數據隱私。對于機器學習數據的平安，聯邦學習技術提出在多個當地分布式訓練模子，然后將參數在中心服務器聚合，以此保證當地數據的隱私性。
對抗魯棒技術可以進步深度學習模子的靠得住性。針對深度學習模子的對抗樣本風險，對抗魯棒技術通過將對抗樣本參加訓練過程或許包養設計檢測對抗樣本的機制，使模子能正確處理被擾動過的對抗樣本。
優化訓練過程可以緩解年夜模子的偏見和幻覺問題。通過在訓練過程中人為均衡數據集分布，引進公正性約束或額外優化目標，我們能夠引導年夜規模語言模子天生更平安、靠得住、多樣化的內容，從而防止由于偏見或虛假內容惹起的文明沖突。
應用數智技術保證數智平安
與此同時，也可以運用某些數智技術來解決公共問題、促進個人發展，下降數智技術帶來的經濟、社會、文明風險。
數字媒體宣傳技術可以幫助公眾更好地適應數智時代的新變化。例如，相關部門或公益組織可以通過社交媒體分送朋友隱私泄露的實際案例，進步人們的隱私平安意識；通過在推薦系統中引進混雜推薦戰略，平臺能讓用戶接觸到加倍多樣、異質的內容，從而打破“信息繭房”，優化社區氛圍；通過創作更優質的文明作品并加年夜宣傳力度，國家可以促進優秀文明和先進文明的構成，保證傳統文明的保存空間，減輕文明虛無主義的迫害。
社會計算技術供給了一種自動化防范數智化風險的計劃。謠言檢測算法可以識別出社交媒體上的虛假信息，幫助平臺和相關部門組織謠言的傳播，加強社會信賴和共識；文本感情識別技術可以幫助網絡社區治理者及時發現用戶的情緒波動，下降發生網絡暴力事務的能夠性，對需求幫助的人供給及時的心思干預；欺詐檢測算法可以及時檢測潛在的詐騙風險，提示被欺詐者或許幫助警方調查剖析。
數智服務技術能促進社會公正和安康可持續發展。數字當局、聰明城市、聰明教導等數智技術年夜幅進步了公共服務的效力，促進了社會的公正分派，也能在必定水平上改良地區間數智經濟發展不服衡的問題。
制訂數智平安法令法規和政策
相關法令為數智平安供給法理基礎。法令法規是維護社會次序與穩定、保證國民權利與不受拘束、推進社會公平與同等、保證社會平安與公共好處、保證經濟社會發展的需要東西，也是推動數智平安建設的主要手腕。在國際上，《歐盟通用數據保護條例》（GDPR）針對歐盟成員國的個人數據保護和隱私進行了細化的規定，包含對數據主體的知情權、批準權等。許多國際組織和行業協會也正在積極制訂適用于人工智能的倫理準則和行為規范，如聯合國教科文組織（UNESCO）的《人工智能倫理問題建議書》等。在國內，2021年通過的《中華國民共和國個人信息保護法》明確了對個人信息的處理原則、個人在信息處理活動中的權利和個人信息處理者的義務，并對個人信息的搜集、應用、存儲和傳輸等行為提出明確規定，制止“年夜數據殺熟”規范自動化決策，同時加強了相關機構的監管和處罰。
社會政策為數智平安供給實踐支撐。針對數智化海潮中個體層面的心智安康問題和社會層面的發展掉衡、系統性掉業問題，當局可以通過相關的政策來保證社會轉變過程的平穩過渡。一方面，當局可以增添心思安康服務的投進、樹立心思安康熱線、開設心思咨詢中間，幫助人們應對智能化海潮帶來的心思壓力和問題。另一方面，當局可以通過財政資金的傾斜、給予優惠政策、創立人才培養基地等方式，鼓勵相對落后地區加年夜數字和智能化發展的投進，進而縮小地區之間的發展差距。對于掉業人員，當局可以加年夜對技巧培訓的投資力度，或許供給更多的創業支撐政策，幫助他們順應智能化時代的新需求。
以數智平安新格式保證新發展格式
平安是發展的條件，發展是平安的保證。黨的二十年夜報告中強調：“以新平安格式保證新發展格式”。在數智技術推動發展的時代，需求掌握好數智平安與經濟社會發展之間的辯證關系，以數智平安新格式保證新發展格式。
數智平安新格式作為新發展格式的保證
數智平安新格式促進經濟社會發展的機理可以從保證穩定、安慰創新、加快生產、增強韌性4個維度進行闡述。
保證穩定。數智平安新格式保證了社會和經濟系統的長期平穩運行，有助于國家的長遠發展和平易近眾生涯的安寧和諧。
激發創新。數智平安的需求能激發創新發展能動性，增強公眾和企業對當局推動創新的信賴，促進多主體參與數智化建設，進步市場活氣。
加快生產。數智平安的需求有助于進步全要素生產率增速，通過數智化轉型改革基礎焦點行業和領域，從而推動整個國平易近經濟生產網絡的發展。
增強韌性。平安的數智技術為增強產業鏈韌性供給數據、技術和基礎設施支撐，充足應用數據的乘數效應，晉陞產業鏈的動態清楚和風險應對才能。同時，數智平安新格式的構建還推動了信息通訊網絡和算力基礎設施的發展，為產業的互聯網和數字化轉型供給堅實基礎，確保產業鏈的自立可控性。
新發展格式作為數智平安新格式的目標
發展和平安是一體之兩翼、驅動之雙輪，二者相輔相成、不成偏廢。技術的進步和經濟社會的發展為數智平安的建設供給了物質基礎和手腕。
國家需求在平安和創新之間找到均衡。過于強調平安能夠克制創新、限制發展，并帶來不良后果。此外，過度關注平安還能夠導致資源過度集中在數智平安領域，從而減少在其他領域的投資，進而限制經濟的周全發展。是以，在無限的資源下，國家需求根據風險評估和優先級確定資源的分派。
國家需求動態調整均衡，制訂科學公道的平安戰略。在實踐中，完整打消復雜的社會系統中一切平安隱患是不現實的。是以，在保證基礎平安的條件下，國家需求動態調整平安和創新之間的均衡，樹立靈活的平安戰略和資源分派機制，以面對各種復雜的形勢，晉陞整個社會系統的穩健性。
數智平安和經濟社會發展之間螺旋式的協同演進關系
通過實現數智平安新格式與新發展格式的平衡，平安與發展可以構成一種螺旋式的協同演進關系形式。數智平安的發展需求樹立在穩定的經濟與社會環境之上，而經濟和社會的發展也需求數智技術的支撐和保證。在科技與創新的推動下，數智技術的進步可以為社會供給更多的平安保證，如進步技術自己的平安和促進個人發展等；同時，也為經濟發展供給了新的機會，推動產業升級和創新。在實現這一目標的過程中，需求關注平安和發展的均衡，防止過度著重于此中一方而忽視了另一方的主要性。只要通過平衡發展，數智平安新格式和新發展格式才幹實現相互促進和配合進步的良性循環。
結論與瞻望
在數智技術的推動下，國際的環境和國內的社會都在經歷深入的結構與效能變化，管理的復雜度也遠遠超越傳統的發展與平安理論的范疇。針對數智技術所帶來的新風險，從技術、文明、法令、政策等多角度構造數智平安新格式，對于國家經濟穩定發展具有主要意義。在機遇與挑戰并存的數智時代，平安和發展應當被視為一個整體。只要正確地均衡、協調平安與發展的關系，才幹實現數智時代經濟與社會的長期繁榮與穩定。
（作者：楊曉光，中國科學院數學與系統科學研討院 中國科學院年夜學經濟與治理學院；吳楊、張興偉，中國科學院自動化研討所；鄭曉龍，中國科學院年夜學人工智能學院 中國科學院自動化研討所；編審：金婷；《中國科學院院刊》供稿）
發佈留言