編者按
　　隨著信息技術(shù)的迅猛發(fā)展，越來(lái)越多的新業(yè)態(tài)、新模式、新產(chǎn)品不斷涌現(xiàn)，也伴生個(gè)人信息遭侵犯、新技術(shù)新業(yè)態(tài)無(wú)序發(fā)展等問(wèn)題，迫切需要加強(qiáng)法律的規(guī)制與保障。
　　中共中央近日印發(fā)的《法治中國(guó)建設(shè)規(guī)劃（2020－2025年）》明確提出，加強(qiáng)信息技術(shù)領(lǐng)域立法，及時(shí)跟進(jìn)研究數(shù)字經(jīng)濟(jì)、互聯(lián)網(wǎng)金融、人工智能、大數(shù)據(jù)、云計(jì)算等相關(guān)法律制度，抓緊補(bǔ)齊短板。
　　本報(bào)今起開(kāi)設(shè)“新技術(shù)領(lǐng)域立法”欄目，聚焦如何通過(guò)立法保障新業(yè)態(tài)新模式健康發(fā)展，敬請(qǐng)關(guān)注。

　　□ 法治日?qǐng)?bào)全媒體記者　　蒲曉磊

　　近日，上海市浦東新區(qū)科技和經(jīng)濟(jì)委員會(huì)發(fā)布消息稱(chēng)，截至2020年底，浦東人工智能企業(yè)約600家，涵蓋人工智能基礎(chǔ)層、技術(shù)層及應(yīng)用層，相關(guān)產(chǎn)業(yè)規(guī)模預(yù)計(jì)達(dá)910多億元，以人工智能技術(shù)驅(qū)動(dòng)社會(huì)經(jīng)濟(jì)高質(zhì)量發(fā)展變革的效應(yīng)逐步顯現(xiàn)。
　　浦東地區(qū)人工智能的蓬勃發(fā)展，是我國(guó)人工智能產(chǎn)業(yè)的一個(gè)縮影。中國(guó)信息通信研究院近日發(fā)布的數(shù)據(jù)顯示，2020年，我國(guó)人工智能產(chǎn)業(yè)規(guī)模大約3100億元人民幣，同比增長(zhǎng)15%。
　　值得注意的是，伴隨著人工智能的快速發(fā)展，其“雙刃劍”的特性也愈發(fā)引人關(guān)注。人工智能在深刻改變?nèi)祟?lèi)社會(huì)生活、改變世界的同時(shí)，其發(fā)展的不確定性也給個(gè)人隱私、經(jīng)濟(jì)安全、社會(huì)穩(wěn)定等領(lǐng)域帶來(lái)前所未有的新挑戰(zhàn)。
　　人工智能要實(shí)現(xiàn)健康發(fā)展，法治是不可或缺的堅(jiān)實(shí)保障。清華大學(xué)法學(xué)院院長(zhǎng)申衛(wèi)星建議，在大力發(fā)展人工智能的同時(shí)，高度重視其可能帶來(lái)的安全風(fēng)險(xiǎn)挑戰(zhàn)，加強(qiáng)前瞻預(yù)防與約束引導(dǎo)，最大限度降低風(fēng)險(xiǎn)、化解風(fēng)險(xiǎn)，從技術(shù)、倫理和法律三個(gè)路徑共同構(gòu)建符合人工智能運(yùn)作基本邏輯的規(guī)制體系，確保人工智能安全、可控發(fā)展。
在基層醫(yī)療等領(lǐng)域有特殊價(jià)值
　　得益于人工智能在近年來(lái)的迅猛發(fā)展，我國(guó)應(yīng)對(duì)新冠肺炎疫情的能力有了進(jìn)一步提升。在疫情期間，人工智能在基層醫(yī)療、教育教學(xué)、城市治理等多個(gè)領(lǐng)域凸顯特殊價(jià)值。
　　近日，北京市順義區(qū)發(fā)生局部聚集性疫情。如何破解疫情傳播鏈，成為疫情防控中的一項(xiàng)重要工作。在取得授權(quán)的前提下，人工智能技術(shù)團(tuán)隊(duì)繪出患者流調(diào)軌跡地圖，幫助疾控人員迅速鎖定管控范圍。
　　2020年初，人工智能領(lǐng)域的智能語(yǔ)音機(jī)器人在進(jìn)行社區(qū)疫情排查和防疫宣傳上就起到了很大作用。記者在科大訊飛海南自貿(mào)港人工智能翻譯服務(wù)中心看到，使用了語(yǔ)音技術(shù)的機(jī)器人，可以給人們打電話(huà)進(jìn)行電話(huà)訪問(wèn)，對(duì)人們的身體狀況等信息進(jìn)行詢(xún)問(wèn)，在電話(huà)訪問(wèn)結(jié)束之后還可以自動(dòng)生成統(tǒng)計(jì)報(bào)表，將相關(guān)信息直接提供給疫情防控有關(guān)部門(mén)。這項(xiàng)技術(shù)在湖北武漢“封城”期間就已得到廣泛應(yīng)用，6小時(shí)即可完成100萬(wàn)人的電話(huà)訪問(wèn)。在全國(guó)推廣后，共完成了5900萬(wàn)次的訪問(wèn)和統(tǒng)計(jì)，極大地節(jié)省了隨訪時(shí)間。
　　全國(guó)人大代表、科大訊飛股份有限公司董事長(zhǎng)劉慶峰說(shuō)，人工智能在過(guò)去60多年的發(fā)展歷程里，一方面，在技術(shù)創(chuàng)新上，人工智能已經(jīng)實(shí)現(xiàn)了“讓機(jī)器能聽(tīng)會(huì)說(shuō)、能看會(huì)認(rèn)”，正朝著“讓機(jī)器能理解、會(huì)思考”的方向發(fā)展；另一方面，在教育、醫(yī)療、社會(huì)治理、司法、翻譯、辦公等關(guān)系民生福祉的各行各業(yè)，人工智能也開(kāi)始切切實(shí)實(shí)解決剛需應(yīng)用。
　　“未來(lái)十年，人工智能將像水和電一樣進(jìn)入每一個(gè)行業(yè)，深刻改變世界?！眲c峰說(shuō)。
可能帶來(lái)重大風(fēng)險(xiǎn)和潛在威脅
　　在飛速發(fā)展的過(guò)程中，人工智能的“雙刃劍”特性也展現(xiàn)出來(lái)。
　　疫情防控工作中，人工智能在信息收集、資源調(diào)配、支持復(fù)工復(fù)產(chǎn)等領(lǐng)域展現(xiàn)了巨大能量。與此同時(shí)，人工智能也因?yàn)楣駛€(gè)人信息保護(hù)、老年人面臨“數(shù)字鴻溝”等問(wèn)題而備受關(guān)注。
　　近年來(lái)，人工智能在廣泛應(yīng)用于多個(gè)領(lǐng)域的同時(shí)，其對(duì)于個(gè)人隱私、社會(huì)公平、生命安全、科技倫理等方面的影響時(shí)常被關(guān)注。
　　申衛(wèi)星認(rèn)為，人工智能技術(shù)的發(fā)展，不僅使得保護(hù)隱私和個(gè)人信息更具有挑戰(zhàn)性，也有著引發(fā)歧視和不公平對(duì)待等倫理風(fēng)險(xiǎn)、誘發(fā)壟斷阻礙經(jīng)濟(jì)發(fā)展、成為威脅國(guó)家和社會(huì)安全的突破口等風(fēng)險(xiǎn)。
　　“在人工智能的社會(huì)倫理上，人們?nèi)找姹粩?shù)據(jù)化和被算法化，算法在劣勢(shì)累計(jì)影響下所作出的推斷與決策結(jié)果將導(dǎo)致對(duì)少數(shù)群體或受保護(hù)群體的負(fù)面成見(jiàn)和刻板印象，故意或過(guò)失的錯(cuò)誤應(yīng)用和算法歧視引發(fā)對(duì)兒童、老年人、殘疾人、消費(fèi)者等弱勢(shì)群體的不公平對(duì)待，對(duì)社會(huì)正義觀和實(shí)質(zhì)結(jié)果提出了嚴(yán)峻挑戰(zhàn)。”申衛(wèi)星舉例說(shuō)。
　　數(shù)據(jù)信息采集應(yīng)用可能侵犯公民權(quán)利，威脅隱私；算法偏好可能加劇社會(huì)偏見(jiàn)或歧視，威脅公平；機(jī)器深度學(xué)習(xí)難以理解人性和道德，無(wú)人駕駛汽車(chē)緊急避險(xiǎn)等智能決策可能危及特定人群生命，威脅安全；人機(jī)交互式產(chǎn)品廣泛應(yīng)用帶來(lái)的工作生活高度依賴(lài)，對(duì)人類(lèi)情感體驗(yàn)、家庭社會(huì)關(guān)系等帶來(lái)了一定沖擊，可能影響未來(lái)社會(huì)塑造，威脅倫理……全國(guó)政協(xié)曾在2020年9月至10月對(duì)人工智能進(jìn)行專(zhuān)題調(diào)研，專(zhuān)題調(diào)研組了解到，我國(guó)人工智能發(fā)展勢(shì)頭迅猛，但發(fā)展機(jī)遇與風(fēng)險(xiǎn)并存，對(duì)人類(lèi)社會(huì)發(fā)展也可能帶來(lái)重大風(fēng)險(xiǎn)和潛在威脅。
加快對(duì)應(yīng)用基礎(chǔ)較好領(lǐng)域立法
　　為推動(dòng)新一代人工智能健康發(fā)展，相關(guān)的法律制度正在加速構(gòu)建。
　　2020年12月21日，全國(guó)人大常委會(huì)法工委發(fā)言人岳仲明介紹了2021年全國(guó)人大的重點(diǎn)立法工作。數(shù)據(jù)安全法、個(gè)人信息保護(hù)法等法律案2021年安排常委會(huì)會(huì)議繼續(xù)審議，爭(zhēng)取早日出臺(tái)。
　　盡管相關(guān)的立法工作正在提速，但與人工智能的發(fā)展速度相比，仍然顯得有些滯后。
　　西南政法大學(xué)高等研究院院長(zhǎng)、人工智能法律研究院院長(zhǎng)侯東德認(rèn)為，當(dāng)前，人工智能發(fā)展缺乏具有前瞻性、可操作性、指引性的法律法規(guī)，人工智能發(fā)展中涉及的個(gè)人信息保護(hù)、數(shù)據(jù)共享等問(wèn)題也亟須立法明確。
　　值得注意的是，國(guó)務(wù)院在2017年7月印發(fā)的《新一代人工智能發(fā)展規(guī)劃》提出，重點(diǎn)圍繞自動(dòng)駕駛、服務(wù)機(jī)器人等應(yīng)用基礎(chǔ)較好的細(xì)分領(lǐng)域，加快研究制定相關(guān)安全管理法規(guī)，為新技術(shù)的快速應(yīng)用奠定法律基礎(chǔ)。
　　申衛(wèi)星建議，對(duì)自動(dòng)駕駛、自動(dòng)化決策、精準(zhǔn)醫(yī)療等領(lǐng)域分別進(jìn)行立法，要區(qū)分不同行業(yè)和場(chǎng)景對(duì)人工智能技術(shù)進(jìn)行規(guī)范。
　　中國(guó)法學(xué)會(huì)商法學(xué)研究會(huì)理事張韜認(rèn)為，在人工智能發(fā)展過(guò)程中，數(shù)據(jù)占據(jù)著極為重要的地位。無(wú)論是解決“數(shù)據(jù)隱私”“算法歧視”等問(wèn)題，還是針對(duì)自動(dòng)駕駛、服務(wù)機(jī)器人等快速發(fā)展的領(lǐng)域進(jìn)行立法，都需要對(duì)數(shù)據(jù)的收集、利用、使用等內(nèi)容作出細(xì)致規(guī)定。
　　上海眾人網(wǎng)絡(luò)安全技術(shù)有限公司董事長(zhǎng)談劍鋒說(shuō)，針對(duì)個(gè)人生物特征、醫(yī)療數(shù)據(jù)等唯一性、不可再生性的重要數(shù)據(jù)，必須提前設(shè)防。建議對(duì)此進(jìn)行立法，對(duì)互聯(lián)網(wǎng)企業(yè)的信息采集進(jìn)行嚴(yán)格的管理規(guī)定，只可針對(duì)企業(yè)產(chǎn)品的特性進(jìn)行相關(guān)必要的數(shù)據(jù)采集，不得過(guò)度、無(wú)序、隨意地采集。同時(shí)，明確規(guī)范由誰(shuí)來(lái)采集、如何采集等相關(guān)安全技術(shù)規(guī)范和流程標(biāo)準(zhǔn)，采取嚴(yán)格的安全防范措施。