大數據和人工智能技術在實際場景中加速落地

第一財經 2020-07-09 08:46:36

全球疫情之下,大數據和人工智能技術在實際場景中加速落地。不可否認,人工智能在抗擊疫情和復工復產等多個領域都發揮了關鍵作用,但技術蓬勃發展帶來的法治挑戰也在相應增加。

上海交通大學文科資深教授、中國法與社會研究院院長季衛東對記者表示,疫情防控加快了數字經濟的發展和社會治理方式的轉型。然而,人工智能對海量數據的渴望和吞吐,正在沖擊個人隱私和信息處分權,在一定程度上給現代法治體制帶來挑戰。

“特別是電腦的網絡化和算法的黑箱化,導致因果關系難以確認和說明,勢必動搖責任政府和問責原則的基礎,助長某種‘機器官僚主義’的傾向。”他提出,必須及時對人工智能治理以及相關的法律問題進行深入分析,從理論和實踐兩個方面提出中國方案。

便利性的代價

一方面是人工智能應用落地加速,帶來生產效率和生活品質提升;另一方面是這些便利性帶來犧牲隱私、冒犯人格等代價,引起了越來越多個人和企業的重視。

6月8日,IBM公司CEO克里什納宣布IBM退出人臉識別業務;6月10日,亞馬遜暫時禁止向美國警察提供人臉識別技術,禁令將持續一年;6月11日,微軟禁止將人臉識別技術銷售給警方;而早在今年初,Clearview AI公司就遭遇重大數據泄露,30億張人臉數據被泄露,引發美國社會的巨大擔憂。

季衛東表示,我國根據海量圖像數據進行人工智能研究的績效的確非常突出,已經達到世界頂級水平。

“這使得人工智能系統的深度學習能力超強,并能把有關成果迅速應用于經濟和社會治理的各個方面。”在季衛東看來,不斷進化的電子計算機也有可能在相當程度上以算法獨裁(Algocracy)的方式限制甚至剝奪個人的自由,以效率、便利、娛樂等不同誘因促使人們不斷放棄既有的基本權利。

季衛東解釋,在無法理解和無法說明的場合,算法就是黑箱化的。

“要求人類介入和監控人工智能的運作,當然是要確保人工智能的可控性,但信息處理系統越復雜就越容易出現操作的失誤,當系統運作速度極快時,人也很難對情況進行認識、預測以及掌握。”他表示,系統與系統之間還會產生目的沖突和互動,在機器學習甚至深度學習的情況下,不同人工智能系統之間的互動關系將變得復雜且變幻莫測。

可以說,機器學習的效果越精準、深度學習的功能越強大,算法的涵義就會變得越來越難以理解和說明。中國圍棋棋手柯潔與AlphaGo對弈失利,就是例證之一。

季衛東認為,這樣的算法黑箱化,讓人工智能具備了近乎不受約束的權力性。立法機構的決定、司法機構的判斷、行政機構的具體處分行為都需要給出明確的理由,以便據此防止主觀任意性,給相對人申訴和復議的機會。如果人工智能進行的預測、提供的結論無法說明其理由,就無異于用“莫須有”的名義來做出決定。

一方面,在很多應用場景下,人工智能很難被人類有效監控,反而容易成為人類轉嫁決策風險、逃避問責的重要手段;一方面,應用人工智能對大數據進行分析和學習,可以充分掌握社會心理和輿情的變化,對不同群體以及個人的行為進行精準的預測。那么,一旦不能相應提高民主問責的水準,權力濫用的風險將加劇。

中國社科院知識產權中心研究員楊延超告訴記者,未來的社會必須設立一個裁判機構,即算法裁判。“當算法決定人自由的時候,算法本身要接受制約。”他提出,對于算法的審查,需要一個由專業且綜合型人才組成的機構來完成,但這樣的人才,目前是相當缺乏的。

需要中國方案

楊延超表示,人工智能帶給傳統法律體系的挑戰是顛覆性的,比如交通法,“從智能駕駛過渡到無人駕駛,現有交通法可能一條都用不了”。因為現有交通法遵循的是過錯責任原則,但在無人駕駛時代,沒有駕照的人也能“開車”,這就進入了從人的過錯到產品質量的迭代時期,整個交通法都要重新制定。

同樣的,隨著越來越多機器人開始參與文學作品的創作,現有的知識產權法也不再適用。“現在的法律總體處于觀望和個案解決的階段。人類意識到了人工智能技術帶來的顛覆性,但顛覆的程度和速度還不得而知,因為技術本身尚處于發展階段。只能遇到問題逐個解決,不斷總結后形成規則。”楊延超說。

針對人工智能帶來的挑戰,我國剛通過的《民法典》特別設立人格權編,加強對個人信息安全和隱私的保護。個人信息保護法、數據安全法草案也在全國人大常委會第二十次會議上進行了初審。

楊延超認為,目前的這些立法,技術和可操作性還有待加強,很難解決新興的具體問題。因此,做好立法準備的同時,需要加強對于人工智能的管理,在政府管理層逐步形成專業的管理機構,不斷細化和完善現有規則。

季衛東也表示,這些規定在實施中勢必會遇到包括上述難題在內的考驗。這讓中國方案的出臺尤為重要。

在將于7月9日開幕的2020世界人工智能大會上,季衛東將正式新增一個身份——上海交通大學人工智能治理與法律研究中心(下稱“研究中心”)主任。作為全國首家側重研究人工智能治理以及相關法律問題的機構,該研究中心將在這場云端峰會的法治論壇上揭牌成立。

在世界人工智能大會上,關于法治的討論從未停止。2018年的人工智能與法治高端研討會、2019年的世界人工智能大會法治論壇,均在大會期間取得了一定的學術成果。今年,法治論壇將升級成為大會的“主題論壇”之一,以“人工智能的權利義務與法治實踐”,就構建AI法治、推動人工智能與法治深度融合等問題進行探討。

繼去年發布《世界人工智能法治藍皮書2019》后,今年的論壇還將發布“人工智能法治發展指數”和《世界人工智能法治藍皮書2020》。

楊延超提出,人工智能的挑戰是世界性的,尤其在算法和數據共享等方面,是整個人類社會面臨的共性問題。我們需要根據國情來提出思路,同時也可以借鑒國外已有的相對成熟的法案,做好立法準備。

“我國人工智能領域綜合型人才儲備不足,導致了人工智能領域發展速度快,但立法準備速度慢的現狀。”他補充說,目前國內高校已逐步開始推進人才培養轉型,未來將更加重視新型人才的培養。

AI應用,獨裁算法,

免責聲明:市場有風險,選擇需謹慎!此文僅供參考,不作買賣依據。

友情合作

内蒙十一选五app官方下载