东升国际官网

第零法則：

機器人不得傷害人類，或任由人類受到傷害；

第一法則：

除非違背第零法則，否則機器人不得傷害人類，或任由人類受到傷害；

第二法則：

機器人必須服從人類号令，除非号令與第零或第一法則發生衝突；

第三法則：

在不違背第零、第一或第二法則之下，機器人能够保護自己。

---阿西莫夫 （Isaac Asimov）

早在1942年，驰名科幻作者阿西莫夫的文章《環舞》中就提出驰名的「機器人三定律」。未來科技發展隨時可能顛覆社會，面對這份不確定性，人類積極地索求科技與人道之間的互换，嘗試理解社會與科技的關係，並就人類的主题價值觀提出疑問，展開了對機械倫理學、人为智能倫理學的深刻討論。

近年人为智能技術被廣泛應用於社會的各個層面，在發展新技術的同時，所帶來的倫理挑戰與風險也值得關注。在第十九屆四中全會通過的《中共中央關於堅持和美满中國特色社會主義造度推進國家治理體系和治理能力現代化若干沉大問題的決定》明確要求「健全科技倫理治理體造」。去年十月，國家科技倫理委員會正式成立，推動覆蓋全面、導向正確、規範有序、統籌協調的科技倫理治理體系建設。作為一種新興科技形態和復雜的技術，人为智能無法在傳統的钻研經驗與框架下被理解，而是必要透過跨學科與跨領域的專家一起討論，結合實踐經歷與學術思辨共同索求。

3月26日上午，由商湯科技與上海交通大學聯合主辦的「上海交通大學計算法學與AI倫理钻研中心揭牌儀式暨紀想研討會《人为智能的價值觀與司法》 」在上海交通大學徐匯校區北四樓舉行。商湯科技副總裁張少霆，上海交通大學黨委副書記顧鋒，上海交通大學清源钻研院執行院長、計算機科學與工程系教授呂寶糧，上海交通大學文科資深教授、中國法與社會钻研院院長季衛東，出席開幕典禮並致辭。商湯科技智能產業钻研院院長田丰、主任劉志毅，商湯科技高校合作執行總監葛瑜，凱原法學院副院長程金華教授、彭誠信教授，上海市科學學钻研所科技與社會钻研室主任王迎春，以及中國法與社會钻研院副院長楊力教授等數十位專家學者亦有出席活動。

開幕典禮由上海交通大學凱原法學院黨委書記汪後繼主持。透過上海交大與商湯科技的共同合作，計算法學與AI倫理钻研中心由上海交大中國法與社會钻研院和清源钻研院的共同成立，「校企合作」模式在人为智能倫理钻研領域創下先河。

負責文科的校領導顧鋒首先代表上海交通大學祝賀計算法學與AI倫理钻研中心順利成立。他暗示，上海交通大學計算法學與AI倫理钻研中心將會在複雜系統的智能發展、司法推理電腦化、數據與算法的倫理難題解決以及數字經濟與法治建設中發揮沉要作用，也將會為學校司法學科钻研和教育，以及文理科的融合開拓嶄新局面。

呂寶糧代表清源钻研院致辭時暗示，清源钻研院旨在推動人为智能領域的跨學科钻研和高水平人才的培養，特別注沉基礎理論創新和關鍵技術研發、人为智能能力提升及產業發展，相信通過與中國法與社會钻研院的合作，中心定能在人为智能技術在法學領域的應用，以及新興計算系統急剧實現技術創新等方面作出貢獻。

季衛東代表中國法與社會钻研院致辭時暗示，中國法與社會钻研院作為大學層面的跨學科平台，活躍於國家及國際間的尖端學術圈，計算法學、科技倫理，以及網絡空間中個人行為與代碼框架之間的互動，也是钻研院關注的沉點。他但愿在商湯科技的大力支持，以及與清源钻研院的攜手合作下，能够搭建一個業界、教育、钻研三方合作的高端平台，推動法學知識體系創新，以及社會科學與計算機科學的共同發展 。

張少霆代表商湯科技致辭時暗示，中國法與社會钻研院和清源钻研院共建上海交通大學計算法學與AI倫理钻研中心，商湯將大力支持，衷心祝福中心實現預期的發展目標，形成「產、學、延坠一體化的工作機造，在新興計算機系統研發、智能生態圈的構建、圍繞數字經濟的規則博弈以及人为智能立法等方面成為國內頂級、國際驰名的學術沉鎮和高端智庫。

呂寶糧院長和季衛東院長隨後分別代表清源钻研院和中國法與社會钻研院簽署了可持續性合作協議，商湯科技副總裁張少霆、清源钻研院執行院長呂寶糧、上海交通大學黨委副書記顧鋒、凱原法學院黨委書記汪後繼、中國法與社會钻研院院長季衛東、上海市科學學钻研所科技與社會钻研室主任王迎春主禮钻研中心的開幕儀式。

儀式後的研討會上，上海市科學钻研所科技與社會钻研室主任王迎春首先發表了以《從人为智能看技術社會3.0與治理範式轉型》的主題演講，梳理全球人为智能治理趨勢，提出以「技術+規則」的主题競爭力發展觀。就「AI的責任與權利」這一不成迴避的社會議題，商湯科技智能產業钻研院院長、上海交通大學計算法學與AI倫理钻研中心聯袂主任田丰發表他的见解，提出以國家安全、公民隱私、國際規則三部门組成的「AI倫理三角形」，並就人为智能企業所應承擔的社會責任等主題，進行了深刻詳盡的闡釋。上海交通大學中國法與社會钻研院副院長，凱原法學院長聘教授、司法大數據分析中心主任楊力探討了數字化轉型與數字法治的根基範疇，指出數字化轉型的場景架構中的執行難處，得出數據治理的技術與司法「雙輪驅動」的發展原則。

研討會的下半場，商湯智能產業钻研院、上海交大凱原法學院與中國法與社會钻研院的數十位學者專家，就智慧司法、大數據治理、數據的司法屬性等五項議題展開圓桌討論，討論人为智能與大數據等新興科技在倫理風險治理中所表演的角色與發揮的影響。

「校企合作」開展科技倫理钻研新框架

自2019年起，國家科技部在《關於推進國家技術創新中心建設的總體规划》、《關於加快推動國家科技成就轉移轉化示範區建設發展》等文件中大力推進以企業為主體開展產學研協同創新體系建設。奉行產學研深度融合的技術創新體系，不僅是為了美满促進科技成就轉化與產業化，更協助學界接觸到產業面臨的嶄新挑戰，結合社會復雜的真實環境做出钻研成就。人为智能倫理钻研更是如此，一方面人为智能作為一種顛覆性技術，仍處於索求階段，在好多新興命題上難以適用過往的科技監管經驗；而為考慮其未來大規模社會應用的影響，還須做出前瞻性迪階測和治理，從哲學、法學、計算機科學、社會學、商業跨視角地考量；另一方面，倫理钻研關注路德規律，人为智能倫理正正必要結合應用地点的社會環境、文化語境、司法基礎等多方面具體實踐。因而，通過校企合作的模式，在理論構建之表，從實際應用場景中觀察科技所造成的社會影響，由下而上地歸納出觀點及反饋，從而美满人为智能倫理治理的新框架。

上海交通大學中國法與社會钻研院擁有豐富學術資源以及跨學科钻研團隊實力，在風險社會與復雜系統理論、大數據治理和人为智能治理的比較造度分析、智慧司法等領域均有深厚建樹，而清源钻研院依附商湯科技雄厚技術實力、海量數據資源和豐富行業經驗，聚焦人为智能開發與產業钻研，索求基於可持續發展理想的科學技術新框架。兩院的強強聯手，这次合作成立的計算法學與AI倫理钻研中心，將會融合理論钻研與實踐經驗，在AI治理這一有待索求迪隝域上開疆拓土，於國際學術界與人为智能業界產生極大的影響力與學術價值。 

钻研中心未來將沉點圍繞人为智能倫理、城市和社會的數字化治理、計算法學、認知科學與司法行為、智慧司法等相關領域開展合作钻研，蕴含但不限於大數據和人为智能相關的原則、法規、政策、技術規格的钻研以及認知科學與司法行為實驗，並就相關問題構建知識圖譜、提交钻研報告、承接当局課題、發表論文、出版著述等等。钻研中心但愿進一步在上海國家新一代人为智能創新試驗區的支持下，打造關於大數據和人为智能的倫理與治理钻研高地，發揮智庫作用，並攜手長三角地區大數據和人为智能的相關企業共同構建智慧城市和智慧司法的知識圖譜以及AIoT網絡治理規則體系。在校內，中心還將與上海交通大學理工科院系合作，開展文理融合的司法與社會科學教學項目，培養在人为智能、大數據治理、科技司法等相關領域的綜合型人才。

人为智能倫理钻研必要生態建設

钻研中心的企業主辦方，商湯科技，作為一家人为智能公司，在分享其科技成就的同時，也意識到技術發展可能帶來的不確定性贾鶯險。多年來，商湯科技在人为智能倫理領域做出了許多致力，除與上海交大这次合辦钻研中心之表，還作為計算機視覺企業代表，入選了首屆AI國家標準化組織，參與人为智能風險治理與治理標準的製定。同時，作為人臉識別國家標準工作組組長單位，牽頭主編的《信息技術 生物特徵識別 人臉識別系統技術要求》已正式立項。 

在去年6月舉行的首屆「AI可持續發展2030論壇」上，商湯智能產業钻研院發布了《AI可持續發展白皮書》，響應聯合國可持續發展目標，提出了以「尊沉協商，索求包涵文化」為主题的AI可持續發展觀、以人為本、共享惠民、融合發展和科研創新四項AI發展價值觀，進一步落到倫理、惠民、產融、可信四項發展原則。這些理想也遵循著商湯的主题企業願景「讓AI引領人類進步」，體現於其在「AI+醫療」，「AI+教育」，「AI+智慧城视坠等方面的業務佈局。 

對於倫理钻研的生態建設思路，本次開幕儀式上的宗旨演講人之一，商湯智能產業钻研院院長田丰曾提出獨創性的金字塔理論，即在「可持續AI」願景的引導下，發展出更為具體的原則，在戰略高度上引導企業的業務方向，落實對表的可持續發展钻研貢獻以及進行內部風險安全节造的舉措。實務層面上，反映在企業內部建設的人为智能倫理委員會、數據安全数等組織架構，以及參與人为智能安全方面的白皮書發布，為國家標準和行業標準提供建議等等。

商湯開展倫理钻研的「金字塔理論」

这次與上海交大聯合成立計算法學與AI倫理钻研中心，也是遵循了商湯倫理生態建設的中心理路，通過聯合高校，匯聚豐富的學術資源，通過與產業經驗的深度結合，深入人为智能相關的倫理钻研，從而促進智能科技治理模式的創新，發揚「可持續AI」的主题發展觀，最終帶來社會效益、普惠大眾。

人为智能企業推广社會責任

企業推广社會責任，不是單純向表部展示成就。想為社會做出實質貢獻，只有將「向善」的理想深植於企業的發展觀中，能力由上而下地帶來影響，自發地反映在實際舉措當中。同時身為行業領袖，更要起到帶頭作用。對於新興技術的治理議題，龍頭企業走在應用的最前方，對於科技所涉及的風險有著更深的理解，因而應該積極地發動整個行業，在司法框架尚處於索求階段時先形成行業自律，同時通過政策建議、開展钻研合作等方式為學術和監管提供寶貴的觀點。

这次與上海交大AI倫理钻研中心的合作，就是商湯倫理钻研和生態建設思路下的又一次實踐。未來我們但愿更多來自分歧人为智能行業的企業與高校共同合作，開展「校企合作」模式，不斷從應用中獲取經驗，利用跨學科知識和理論框架，逐漸美满AI治理這項沉要議題。