商湯科技發佈AI治理白皮書：踐杏赘負責任且可評估」的人为智能
2022年9月5日，上海────在2022 WAIC世界人为智能大會「亞洲科技倫理治理與可持續發展論壇」上，商湯科技正式發佈《「平衡發展」的人为智能治理白皮書——商湯人为智能倫理與治理年度報告（2022年）》，深刻探討並分享了商湯在推動AI治理落地進程中的洞察、思虑、目標與實踐。商湯科技智能產業钻研院院長田丰受邀出席並就白皮書的沉點內容作解讀。
白皮書指出，當前工智能治理已經進入了以技術驗證為主的落地實踐階段。今年以來，新加坡、歐盟、美國、中國等國家的監管機構和第三方機構紛紛發佈AI治理測試工具箱、技術監管沙箱，推進AI治理的落地實施。
作為全球領先的人为智能軟件公司，商湯始終高度沉視人为智能治理，去年正式提出了「平衡發展」的人为智能倫理觀，同時明確了「以人為本、技術可控、可持續發展」的倫理原則。隨著人为智能治理進入落地實踐階段，商湯这次進一步提出了發展「負責任且可評估」的人为智能，並將其作為商湯開展人为智能治理迪電景目標，打造倫理治理閉環。
人为智能治理進入落地實踐階段，負責任且需可評估
從發展歷程看，人为智能治理至今已經經歷了以原則討論為主的1.0階段，以政策討論為主的2.0階段。進入2022年，隨著全球人为智能治理進程的持續推進，以及可信、負責任人为智能等相關理想的持續滲透，有關驗證人为智能治理若何落地實施的倡議日益增多。人为智能治理開始進入以技術驗證為主的3.0階段，即落地實踐階段。
而目前，人为智能治理的落地實踐仍面臨許多挑戰，各行各業必要沉點處理「理想與行動」、「政策與實踐」、「技術與用戶」三組關係，即將人为智能倫理的共同原則付諸實施 ；將政策要求轉化為技術和業務團隊可執行的實踐標準 ；處理好技術與用戶間的關係，推動用戶對AI治理的認知，最終能力深刻推進人为智能治理。
為有效地推進人为智能治理，商湯科技基於對全球人为智能治理訴求的分析，結合自身對技術和市場的理解，在白皮書中提出「人为智能治理應當是一個價值牽引、技術先杏注多方參與、分層推進的動態進程」，為人为智能治理的落地實踐成立了有效路徑。
從治理成效看，人为智能治理的實現由低至高，可分為可用、靠得住、可控、可信四個層次。其中，「可用」是指人为智能系統在职能、机能層面應當能夠滿足應用場景需要 ；「靠得住」是指人为智能系統在安全性、魯棒性層面應當能夠滿足部署環境和可持續運營要求 ；「可控」是指人为智能系統在职能層面應當能夠充分保護人類的自主见志和權利、保险人類對系統的节造權 ；「可信」是指人为智能系統的設計和應用應當切合人類的價致讽想和倫理路德。
人为智能治理的「分層目標」
因而，人为智能治理體系建構的目標，就是發展負責任的人为智能，必要做到有跡可循、有據可查 ；丁钙胶獍l展」的倫理觀，「以人為本、技術可控、可持續發展」的倫理原則，商湯这次於行業初次提出發展「負責任且可評估」的人为智能，並將其作為開展人为智能治理迪電景目標。
「負責任且可評估的人为智能」的主题要求
構建覆蓋全性命週期的治理體系，打造AI治理閉環
作為業界最先組建人为智能倫理與治理委員會，並將倫理治理工作當作公司戰略級方向的科技創新企業之一，商湯自2020年1月統籌推進人为智能倫理治理工作體系建設以來，已在內部開展大量治理創新實踐，並形成了一整套可評估的人为智能治理落处所案，將倫理原則嵌入到產品設計、開發、部署的全性命週期，初步形成了人为智能治理閉環。
在數據風險方面，商湯將個人信息保護融入產品研發全性命週期，設立「數據安全與個人信息保護委員會」，實施個人信息保護評估審查，確保產品遵循默認切合個人信息保護的設計要求。
在算法風險方面，商湯作為領先的人为智能企業，主動承擔算法開發者的主體責任，針對商業化算法場景，開展基於真實場景下的算法驗證與評測，實現 AI 技術的真正可信與可控。
在應用風險方面，商湯持續美满人为智能倫理治理體系，成立覆蓋設計、開發、部署全性命週期的產品倫理風險審查流程 ；緊隨全球人为智能行業發展變化，成立「全球AI倫理風險庫」 ；定期組織員工進行人为智能倫理培訓，持續美满內部倫理傳播體系，不斷提升員工倫理素養。
商湯AI治理閉環，推進構建負責任且可評估的AI
為保险人为智能治理體系的有效落實、推動形成倫理治理「人人有責」的企業文化，商湯還成立了倫理風險目標治理機造、倫理風險事务處置機造和倫理治理質量节造機造。此表，為推動發展「負責任且可評估」的人为智能，商湯還在內部開發了一系列覆蓋數據治理、算法測評、模型體檢、倫理審查的流程工具和技術平台。
隨著人为智能逐漸深刻產業應用，AI的發展與治理之間的關係正如汽車的「發動機」和「方向盤」一樣，相輔相成、缺一不成。在本次論壇上，商湯科技智能產業钻研院科技政策與倫理钻研主任宮超還受邀出席《擁抱科技倫理治理體系，賦能可持續發展之路》圓桌討論，結合商湯在AI治理方面的實踐成就，與行業嘉賓深刻探討了商湯的AI治理主張。他強調，商湯將持續推動發展負責任且可評估的人为智能，為AI治理實踐不斷貢獻美满、可行的落处所案。