讓人臉識別應用以"必要"為限 技術發展須有法律規范

朱寧寧

2019年11月12日08:13  來源:法制日報
 
原標題:讓人臉識別應用以“必要”為限

“難道我們就要一輩子躲在井底下嗎?”

本月初,經典科幻電影《終結者:黑暗命運》如期上映。影片中,大反派使用人臉識別技術鎖定對方的位置信息進行追殺。面對如影隨行的危險,女主角Dan絕望而無奈地說出了這句話。很快,大反派又通過人臉識別找到了他們……

實際上,電影中的情節已經在現實中上演。近段時間,隨著人臉識別技術的大規模應用,有關“臉”的話題成為焦點。據媒體報道,9月初,中國藥科大學試水教室人臉識別,引發對課堂隱私邊界的爭議;10月,上海一小區電梯引入人臉識別,引發公眾對隱私泄露的擔憂;不久前,有消息稱北京地鐵將應用人臉識別技術對乘客實施分類安檢,觸動大眾擔心個人信息安全的神經。

而因不愿意“刷臉進門”,購買了動物園年卡的浙江理工大學副教授郭兵將杭州野生動物世界告上了法庭。11月3日,浙江省杭州市富陽區人民法院正式受理此案。這也被稱為國內“人臉識別第一案”。

一些業內專家近日接受《法制日報》記者采訪時指出,人臉識別等人工智能技術本身并無好壞,但這種技術在使用的時候必須要在法律框架內進行。要通過規范的引導來進行必要的規制,以維護好安全、便利和隱私三者間的平衡。

當事人同意并不意味著合法

抓捕逃犯、追蹤兒童、智慧城市……人臉識別技術除了在這些特定場景下得以應用之外,還越來越多地滲入到普通人的日常生活中,比如進門不用刷卡,看球賽看演唱會過安檢不用憑票,超市購物不用掃碼支付。在帶來諸多便利的同時,對人臉識別技術的擔憂也隨之而來,越來越多的人擔心“刷臉”會讓自己“丟臉”。

在一些業內專家看來,這種便利的代價過于巨大,一旦操作不當,不僅會給個人帶來危險,甚至會對整個世界秩序產生不堪設想的后果。更值得警惕的是,人臉識別技術的隨意擴大使用還面臨著合法性和比例原則等法律拷問。此前,就有媒體曝光某地廁所用人臉識別技術來達到避免人們重復取紙的應用。

由于人臉采集不需要專門設備,幾乎可以在無意識的狀態下獲取人臉圖像,所以一旦當事人同意,人臉信息瞬間就可以被企業等“合法”地采集走。但在北京航天航空大學法學院教授、北航備案審查制度研究中心主任王鍇看來,人臉識別應用的合法性問題并非僅僅獲得當事人同意就可以解決!皬膫人信息自決權的角度,個人的自決要建立在充分知情的基礎上,即個人要充分了解風險,同時要求個人全程參與個人信息流動的過程,至少要留給個人監督企業使用個人信息的渠道。個人自決意味著個人隨時有權對企業使用個人信息喊停!

“在當前無法完全保障人臉信息數據庫安全性的情況下,對人臉識別廣泛應用的擔心是可以理解的!蓖蹂|分析指出,人臉識別的“危險”在于,一方面,人臉雖然不屬于隱私,但因為人臉這種生物特征具有唯一性,通過人臉識別可以更加容易地發現個人隱私;另一方面,人臉識別要依靠大型的信息數據庫,而這種數據庫的安全性是存疑的,一旦被濫用或者泄露,就會極大威脅到個人隱私乃至個人的其他權利。

“這就好像安樂死,盡管大家都知道它對于維護人的尊嚴的好處,但是在無法防止被濫用而且生命一旦損失就無法補救的情況下,世界各國對放開安樂死還是比較謹慎的!蓖蹂|說。

濫用刷臉屬于技術不當使用

從密碼識別到芯片識別,再到個體生物特征識別(包括指紋、語音以及面部識別等),就加密或識別技術而言,日新月異的科技在帶來便捷與效率的同時也帶來擔憂。

正因為人臉識別技術可能會導致對隱私和公民權利的侵犯,目前,一些國家和地區已經開始對人臉識別技術持謹慎甚至否定的態度,并從法律層面加以防范。

8月,瑞典數據保護機構對瑞典一所中學因違反《通用數據保護條例》而判處約1.9萬歐元罰款。原因是該機構被發現使用人臉識別技術來監控22名高中生的出勤率。瑞典數據監管機構認為,在日常環境中對學生進行攝像監控等行為侵犯了學生的隱私,即便教育部門事先取得那些學生家長的同意,但仍然沒有足夠的合法理由,去搜集其他人的敏感數據。再以美國為例,鑒于該項技術可能會引起對有色人種的歧視,美國舊金山市今年專門出臺禁令,成為第一個禁止使用人臉識別技術的城市。此外,一些其他城市,如加利福尼亞州奧克蘭市以及馬薩諸塞州薩默維爾市也都提出了類似禁令建議。

中國社會科學院法學所研究員、教授姚佳分析指出,對于人類來說,除了保護人格尊嚴等精神層面,最重要的就是對生物層面的保護,因為后者才是唯一中的“唯一”,是完全無法替代的。

“技術本身并無好壞善惡之分,但是人們利用技術的行為應接受評判,人們在應用技術時應充分考慮技術可能帶來的負面影響并將風險降至最低。技術本來是為了便捷和提高效率,濫用‘刷臉’屬于典型的技術不當使用!币颜f。

人工智能技術發展須有法律規范

顯然,以人臉識別為代表的人工智能技術的急速擴張帶來的法律問題不容回避,但現行法律卻顯得“力不從心”。目前,對于包括收集主體、目的、方法、范圍與程序等在內的關鍵問題,法律尚一片空白,尤其是缺乏對侵權責任者的追究機制。

值得一提的是,今年6月,國家新一代人工智能治理專業委員會發布《新一代人工智能治理原則》,提出對人工智能治理的框架和行動指南,呼吁發展“負責任的人工智能”,即技術的發展應該符合人類的價值觀和倫理道德,避免誤用,禁止濫用、惡用。

“應把保護人類能動性作為人工智能研發的底線原則!敝袊ヂ摼W協會青年專家、國家能源集團研究院研究員畢競悅認為,以人臉識別技術為代表的人工智能的發展不應妨礙人類自治,人類不從屬于人工智能系統,也不應受到人工智能系統的脅迫。人類與人工智能系統互動時必須保持充分有效的自我決定權,有權選擇退出。

在畢競悅看來,科技的發展有利有弊,但總體而言利大于弊。不應因噎廢食恐懼于科技的發展,而要善于利用科技增進人類福祉。在此過程中,政府要承擔起監管和制定標準的責任。

畢競悅具體分析說,首先,在人臉識別等人工智能系統的開發、使用和管理過程中要確保公平。開發人員和實施者需要確保不讓特定個人或少數群體遭受偏見、侮辱和歧視,避免將弱勢群體置于更為不利的地位。在發生危害時,可以為用戶提供有效補救。政府還可以提供機制,保障特殊群體的需求。其次,透明性應成為人工智能運行的基本要求。在使用包括人臉識別在內的人工智能技術收集個人信息時,必須保障個體的知情權,并擁有選擇退出的權利。再次,人工智能系統的全生命周期都必須保護隱私數據。包括用戶提供的所有數據以及在與人工智能系統交互過程中生成的關于用戶的所有信息。此外,還要建立起具體、可操作的責任機制。

“新技術處于發展初期,法律制度不能過于嚴苛,需要鼓勵新產業的發展。但是,當行業發展較為成熟,新技術影響到公眾的生活安寧,就需要嚴格法律規范予以調整,就應該建立更加嚴格的準入和監管制度!敝袊茖W技術法學會常委會理事、北京市偉博律師事務所主任李偉民說。

李偉民建議盡快建立“人臉識別倫理規范”,評估新技術的價值和作用,加強新技術的行業監管。時機成熟之時,建立關于人臉識別的專門法律制度,規范大數據的采集、保管、加工、交易等環節中的法律監管,防止人臉識別過程中的信息泄露!凹夹g應該服務于人類、方便為人類應用,而不能成為限制人行為、傷害人生活安寧的工具。我們應該建立對人臉識別技術的風險評估、法律規范的相應制度,讓人臉識別技術在一個合理范圍內服務人類!

同時,李偉民還建議制定人臉識別技術應用的相關規范制度!跋嚓P部門采用人臉識別技術應當遵守嚴格的程序限制,履行嚴格的審批、聽證、公開等程序,廣泛聽取民意,讓人臉識別技術的應用做到以‘必要’為限!

人工智能勢頭猛,立法如何跟上

記者 朱寧寧

很多時候,技術越強大,內心越恐慌。

人臉識別作為生物識別的一種技術,可用來長期追蹤個人身份、去向、習慣。據悉,最新的人臉識別技術通過對人臉面部表情的深度識別,不僅能夠識別性別與估計年齡,還能夠辨別個人的面部表情,計算個體內心世界的真實情感。這意味著,人臉識別不但能看清臉,還能讀懂心,不僅能把行蹤摸清楚,還能把內心想明白。

然而,以人臉識別為代表的科學技術的高速發展和廣泛應用,也給個人信息保護帶來巨大挑戰。目前,我國有關數據管理、數據安全等人工智能內容以及個人信息保護等規定散見于一些法律之中。比如,根據現行刑法規定,不經同意而非法獲取,或者將合法取得的個人信息出售給第三方,此類行為均涉嫌構成侵犯公民個人信息罪。民法總則第一百一十一條規定,任何組織和個人需要獲取他人個人信息的,應當依法取得并確保信息安全,不得非法收集、使用、加工、傳輸他人個人信息,不得非法買賣、提供或者公開他人個人信息。消費者權益保護法第二十九條規定,經營者收集、使用消費者個人信息,應當遵循合法、正當、必要的原則,明示收集、使用信息的目的、方式和范圍,并經消費者同意。經營者收集、使用消費者個人信息,應當公開其收集、使用規則,不得違反法律、法規的規定和雙方的約定收集、使用信息。網絡安全法中明確了對個人信息收集、使用及保護的要求,并規定了個人對其個人信息進行更正或刪除的權利。目前正在編纂中的民法典人格權編草案對“換臉”等人工智能技術使用等作出了回應。草案規定,任何組織或者個人不得以利用信息技術手段偽造的方式侵害他人的肖像權。此外,2019年,中央網信辦發布了《數據安全管理辦法(征求意見稿)》,向社會公開征求意見,明確了個人信息和重要數據的收集、處理、使用和安全監督管理的相關標準和規范。

然而,制定專門的數據安全法、個人信息保護法仍然是必要的。值得一提的是,十三屆全國人大常委會立法規劃中,數據安全法與其他68部法律被列為“條件比較成熟、任期內擬提請審議的法律草案”。2019年十三屆全國人大二次會議新聞發布會上,大會發言人張業遂稱在2019年將推進數據安全法立法工作。

然而,立法加速的同時,不得不看到技術的突破和進步速度似乎更快。由此,給立法工作帶來的挑戰也不斷加碼。立法該怎樣追趕技術的腳步呢?

鑒于此,有專家建議全國人大常委會積極授權國務院和地方各級人大先行先試相關領域立法。比如,目前,大數據、網絡平臺治理、人工智能、生物技術等前沿科技引發的隱私權保護等問題比較突出的地方大都位于北京、上海、廣東、浙江、江蘇等地方,而這些地方人大的立法專業化水平也都較高。據了解,現在一些地方已經在積極推進人工智能立法。比如,上海市最近在《上海市促進國際科創中心建設條例》起草過程中,將人工智能、大數據等前沿科技的安全規制等問題凝練成條款。同時,立法中還可借鑒地方立法以往采用的專業性專職委員等好的做法,將一些前沿科技治理研究的學者或者實務人員充實到立法隊伍中,以加快相關立法起草的速度和質量。此外,考慮到前沿科技涉及利益群體較多,地方各級人大要解放思想,除了一部分涉及國家安全的條款,其他部分應將開門立法的理念貫徹到底,要讓民眾積極地參與其中,以避免產業界通過立法和規范性文件的制定來進行利益立法。

(責編:趙光霞、宋心蕊)

推薦閱讀

“2018新聞傳播學院院長論壇”舉行
  “2018新聞傳播學院院長論壇”11月10日在廈門大學舉行。人民日報社副總編輯盧新寧,福建省委常委、宣傳部部長、秘書長梁建勇,廈門大學黨委書記張彥,教育部高等教育司司長吳巖等與會并致辭。
【詳細】“2018新聞傳播學院院長論壇”舉行   “2018新聞傳播學院院長論壇”11月10日在廈門大學舉行。人民日報社副總編輯盧新寧,福建省委常委、宣傳部部長、秘書長梁建勇,廈門大學黨委書記張彥,教育部高等教育司司長吳巖等與會并致辭。 【詳細】

第五屆世界互聯網大會
  由國家互聯網信息辦公室和浙江省人民政府共同主辦的第五屆世界互聯網大會于11月7日至9日在烏鎮召開。本屆大會以“創造互信共治的數字世界——攜手共建網絡空間命運共同體”為主題。
【詳細】第五屆世界互聯網大會   由國家互聯網信息辦公室和浙江省人民政府共同主辦的第五屆世界互聯網大會于11月7日至9日在烏鎮召開。本屆大會以“創造互信共治的數字世界——攜手共建網絡空間命運共同體”為主題。 【詳細】

波多野结衣电影