全國咨詢熱線:010-67877741/42/43

促進人工智能安全發(fā)展 首個生成式AI監(jiān)管文件出臺

發(fā)布時間:2023-07-27 09:25:00 人氣:367 來源:中國安全防范產(chǎn)品行業(yè)協(xié)會

  7月24日,中共中央政治局召開會議,分析研究當(dāng)前經(jīng)濟形勢,部署下半年經(jīng)濟工作。
  會議指出,要大力推動現(xiàn)代化產(chǎn)業(yè)體系建設(shè),加快培育壯大戰(zhàn)略性新興產(chǎn)業(yè)、打造更多支柱產(chǎn)業(yè)。要推動數(shù)字經(jīng)濟與先進制造業(yè)、現(xiàn)代服務(wù)業(yè)深度融合,促進人工智能安全發(fā)展。要推動平臺企業(yè)規(guī)范健康持續(xù)發(fā)展。
   專家、機構(gòu)解讀
  中國宏觀經(jīng)濟研究院戰(zhàn)略政策室主任、研究員盛朝迅表示:當(dāng)前我國正處在轉(zhuǎn)變發(fā)展方式、優(yōu)化經(jīng)濟結(jié)構(gòu)、轉(zhuǎn)換增長動力的攻關(guān)期,同時又遭遇嚴(yán)峻復(fù)雜的國際環(huán)境,迫切需要加快戰(zhàn)略性新興產(chǎn)業(yè)發(fā)展,優(yōu)化產(chǎn)業(yè)結(jié)構(gòu),構(gòu)建現(xiàn)代化產(chǎn)業(yè)體系,促進數(shù)字經(jīng)濟、生物經(jīng)濟、低碳經(jīng)濟發(fā)展,提高全要素生產(chǎn)率,培育形成經(jīng)濟發(fā)展新動能。下一步要堅持創(chuàng)新驅(qū)動、需求拉動、國際化帶動,加大企業(yè)技術(shù)創(chuàng)新支持力度,鼓勵場景創(chuàng)新和高技術(shù)產(chǎn)品市場應(yīng)用拓展,促進企業(yè)國際化發(fā)展,提升競爭力。要加快實施產(chǎn)業(yè)基礎(chǔ)再造工程,聚焦新一代信息技術(shù)、人工智能、生物技術(shù)、高端裝備等戰(zhàn)略性新興產(chǎn)業(yè)升級發(fā)展所需的高端基礎(chǔ)元器件、核心零部件、基礎(chǔ)裝備、關(guān)鍵基礎(chǔ)材料等,努力補短鍛長,增強戰(zhàn)略性新興產(chǎn)業(yè)發(fā)展的韌性、可持續(xù)性和競爭力。
  北京交通大學(xué)中國高端制造業(yè)研究中心執(zhí)行主任朱明皓表示:當(dāng)前數(shù)字經(jīng)濟已成為推動我國經(jīng)濟穩(wěn)增長的重要引擎,但數(shù)字經(jīng)濟與先進制造業(yè)、現(xiàn)代服務(wù)業(yè)的融合寬而不深,例如,由制造業(yè)和服務(wù)業(yè)產(chǎn)生所采集的數(shù)據(jù)沒有充分發(fā)揮其應(yīng)有價值,數(shù)據(jù)價值對于經(jīng)濟增長的貢獻還不高;數(shù)字賦能產(chǎn)業(yè)升級還停留在采集存儲和傳輸,數(shù)字經(jīng)濟與先進制造業(yè)、現(xiàn)代服務(wù)業(yè)融合深度不夠。下一步需加快推進數(shù)字經(jīng)濟與實體經(jīng)濟深度融合,協(xié)同推進數(shù)字產(chǎn)業(yè)化和產(chǎn)業(yè)數(shù)字化,使數(shù)字經(jīng)濟更好賦能實體、服務(wù)社會、造福百姓。充分運用人工智能等數(shù)字技術(shù),通過大數(shù)據(jù)挖掘制造業(yè)、服務(wù)業(yè)的潛在聯(lián)系,通過全產(chǎn)業(yè)鏈數(shù)據(jù)融合,打通不同環(huán)節(jié)間的信息孤島。同時,要強化人工智能安全治理工作,從數(shù)據(jù)安全、網(wǎng)絡(luò)安全、算法安全、算力安全等多方面入手,實現(xiàn)人工智能對于經(jīng)濟的良性促進作用,發(fā)展負(fù)責(zé)任的人工智能產(chǎn)業(yè)。
  東吳證券指出,不同于4月政治局會議,此次會議將產(chǎn)業(yè)政策的相關(guān)表述后置,但“科技”的含量依然很高:“數(shù)字經(jīng)濟”、“先進制造業(yè)”、“人工智能”等方面均與今年領(lǐng)導(dǎo)人的調(diào)研方向不謀而合。而“平臺企業(yè)”的相關(guān)表述又與本次政治局會議活躍資本市場、提振投資者信心的議題相吻合。不過值得注意的是本次會議特別強調(diào)了人工智能的“安全”發(fā)展,這可能意味著之后對于AI面臨的監(jiān)管會有所加強。
  招商證券則表示,相較于4月政治局會議提到的新能源汽車及人工智能,本次政治局會議明確提到數(shù)字經(jīng)濟、人工智能以及平臺經(jīng)濟。根據(jù)該機構(gòu)追蹤發(fā)現(xiàn),4月政治局會議之后,共有4部委表態(tài)支持人工智能發(fā)展,共有北京、上海、廣東、蘇州、杭州、成都、深圳等7個城市發(fā)布促進人工智能發(fā)展政策。該機構(gòu)認(rèn)為,根據(jù)本次政治局會議的部署,未來一段時間,各地及部位級支撐數(shù)字經(jīng)濟的政策將出臺的更加密集,人工智能及平臺經(jīng)濟相關(guān)政策的出臺節(jié)奏也有望保持較高的頻率。
   中國首個生成式AI監(jiān)管文件出臺
  今年4月28日,中共中央政治局會議提出,要重視通用人工智能發(fā)展,營造創(chuàng)新生態(tài),重視防范風(fēng)險。
  要求人工智能“安全發(fā)展”,此前在多個監(jiān)管政策中早有提及。
  7月6日,在2023世界人工智能大會上,科技部戰(zhàn)略規(guī)劃司司長梁穎達則表示,人工智能法草案已被列入國務(wù)院2023年立法工作計劃,提請全國人大常委會審議。要鼓勵人工智能前沿研究和原始創(chuàng)新,鼓勵人工智能技術(shù)開源發(fā)展,堅持科技向善的理念,發(fā)展負(fù)責(zé)任的人工智能。
  7月13日,國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、國家廣電總局公布《生成式人工智能服務(wù)管理暫行辦法》(以下稱《辦法》),自2023年8月15日起施行。這也是中國首次對生成式AI研發(fā)及服務(wù)作出明確規(guī)定。
  國家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示,出臺《辦法》,旨在促進生成式人工智能健康發(fā)展和規(guī)范應(yīng)用,維護國家安全和社會公共利益,保護公民、法人和其他組織的合法權(quán)益。
  生成式人工智能是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)。以O(shè)penAI發(fā)布的ChatGPT為代表的生成式人工智能,正在激發(fā)包括微軟、谷歌、Meta、百度、阿里巴巴等國內(nèi)外科技巨頭以及創(chuàng)業(yè)者的新一輪“AI軍備競賽”。
  最新出臺的《辦法》共24條,從生成式人工智能服務(wù)提供者的算法設(shè)計與備案、訓(xùn)練數(shù)據(jù)、模型,到用戶隱私、商業(yè)秘密的保護,監(jiān)督檢查和法律責(zé)任等方面提出了相關(guān)要求。同時《辦法》中明確了對生成式AI產(chǎn)業(yè)的支持和鼓勵態(tài)度。
   多國宣布AI監(jiān)管計劃
  不只在中國,隨著聊天機器人ChatGPT等人工智能(AI)應(yīng)用快速發(fā)展,各國監(jiān)管機構(gòu)也在加快探索如何妥善進行監(jiān)管,在鼓勵技術(shù)創(chuàng)新的同時保護公眾利益。
  愛爾蘭數(shù)據(jù)保護負(fù)責(zé)機構(gòu)今年4月表示,生成式人工智能需要受到監(jiān)管,但管理機構(gòu)必須在倉促實施“確實站不住腳”的禁令之前弄清楚如何正確監(jiān)管。
  據(jù)路透社消息,在英國有幾家國家監(jiān)管機構(gòu)負(fù)責(zé)起草內(nèi)容涵蓋人工智能的監(jiān)管規(guī)則,這些機構(gòu)中就包括金融行為監(jiān)管局。目前,該機構(gòu)正在與艾倫?圖靈研究所和其他法律與學(xué)術(shù)機構(gòu)協(xié)商,提高其對人工智能技術(shù)的理解。
  據(jù)《日本時報》報道,由于對生成式AI日益擔(dān)憂,G7領(lǐng)導(dǎo)人5月在廣島召開峰會,同意成立一個工作組,以加強合作,解決與新技術(shù)相關(guān)的各種問題。他們還表示,將創(chuàng)建一個名為“廣島AI進程”的部長級論壇,在今年底前針對生成式AI導(dǎo)致的版權(quán)、虛假信息等問題展開討論。
  當(dāng)?shù)貢r間6月14日,歐洲議會以499票贊成、28票反對和93票棄權(quán)的壓倒性結(jié)果通過了《AI法案》草案。若最終法案獲得通過,這將成為全球首個關(guān)于AI的法案。美國有線電視新聞網(wǎng)報道稱,一旦獲得通過,該法案將適用于在歐盟開發(fā)和部署AI系統(tǒng)的任何人,包括位于歐盟以外的公司。
  日本隱私監(jiān)管機構(gòu)6月表示,已警告OpenAI不得在未經(jīng)公眾許可的情況下收集敏感數(shù)據(jù)。日本預(yù)計將在2023年底之前出臺監(jiān)管措施,這些監(jiān)管措施可能更接近美國的態(tài)度,而不是歐盟計劃的嚴(yán)格監(jiān)管措施,因為日本希望這項技術(shù)能夠促進經(jīng)濟增長,并使其成為先進芯片的領(lǐng)導(dǎo)者。
  美國也加入了這場生成式AI的監(jiān)管風(fēng)暴。當(dāng)?shù)貢r間5月23日,美國政府宣布了一系列圍繞美國AI使用和發(fā)展的新舉措,希望全面了解并捕捉到快速發(fā)展的AI技術(shù)所蘊含的風(fēng)險和機遇。7月21日,包括谷歌、微軟、OpenAI、亞馬遜、Meta、Anthropic、Inflection在內(nèi)的七家頂級人工智能公司在美國白宮召開會議。這些企業(yè)的高管承諾,將為消費者創(chuàng)建識別生成式人工智能的方法,并確保在生成式人工智能工具發(fā)布前,會測試其安全性。具體而言一共涉及八項措施:在音頻和視頻內(nèi)容上使用水印來幫助識別人工智能生成的內(nèi)容;在向公眾發(fā)布工具之前,請獨立專家評估其工具的安全性;與其他行業(yè)參與者、政府和外部專家分享有關(guān)最佳實踐和規(guī)避安全措施的嘗試的信息;投資網(wǎng)絡(luò)安全措施;鼓勵第三方發(fā)現(xiàn)安全漏洞;報告技術(shù)的局限性并指導(dǎo)適當(dāng)使用人工智能工具;優(yōu)先研究人工智能的社會風(fēng)險,包括歧視和隱私問題;使用最前沿的人工智能系統(tǒng)(前沿模型)來解決社會最嚴(yán)重的問題,例如緩解氣候變化和疾病等社會挑戰(zhàn)。
  近日,澳大利亞政府表示,將彌補現(xiàn)有法律漏洞,對新形式的人工智能技術(shù)采取“保障措施”。澳大利亞聯(lián)邦工業(yè)、創(chuàng)新和科學(xué)部部長埃德?胡斯克(EdHusic)發(fā)布了澳大利亞國家科學(xué)技術(shù)委員會的建議,以及一份關(guān)于人工智能的討論文件,其主旨是考慮有針對性的監(jiān)管措施。
  聯(lián)合國也正在呼吁采用人工智能“全球監(jiān)管標(biāo)準(zhǔn)”。聯(lián)合國秘書長安東尼奧?古特雷斯6月12日支持一些人工智能高管提出的建立像國際原子能機構(gòu)這樣的人工智能監(jiān)管機構(gòu)的提議。古特雷斯還宣布計劃在今年年底前啟動高級別人工智能咨詢機構(gòu)的工作,定期審查人工智能治理安排并提出建議。
  事實上,人工智能是一把雙刃劍早已成為全球共識。在斯坦福大學(xué)發(fā)布的《2023年人工智能指數(shù)報告》中提到,對127個國家的立法記錄調(diào)研的結(jié)果顯示,包含“人工智能”的法案被通過成為法律的數(shù)量,從2016年的僅1個增長到2022年的37個。報告還對81個國家2016年以來的人工智能議會記錄的分析也同樣表明,全球立法程序中提及人工智能的次數(shù)增加了近6.5倍。
  隨著生成式人工智能研究和使用規(guī)模逐漸增長,建立新型的人工智能監(jiān)管框架十分必要。
聯(lián)系我們
聯(lián)系方式

熱線電話

13910555092

上班時間

周一到周五

公司電話

010-67877741/42/43

二維碼
聯(lián)