好康資訊平台

　　邱智麗

　　[當AI讓人變得更聰明、更富創造性的同時，人類利益原則要求考慮如何確保人工智慧的發展，不會影響到人類的切身權益，為了解決過錯問題，避免公眾困惑和對未知的恐慌，AI系統必須在程序層面具有可責性，提升透明度以及規範性]

　　在人工智慧技術高歌猛進的同時，物理世界和個人生活的界線日漸模糊，每一次新技術的革新，都引發人類對自我和世界認知的恐慌，也延伸出複雜的法律、倫理和安全問題。

　　在今年的烏鎮世界互聯網大會上，人工智慧究竟是否會威脅人類？其所帶來的結構性失業，是否會重構人與機器之間的關係？相應的規範和制度設計是否存在盲區？成為企業家和科學家共同關注的話題。

　　警惕技術不謹慎帶來的風險

　　《紐約客》的一期封面引發人們的討論，畫面中機器人已經成為了地球的主角，人類只能蹲在地上接受機器人的施捨。「每一個新技術都會引發大家的擔心，但以往更多是人的體力的延伸，而這次是腦力的延伸，所以擔憂會更嚴重。」在烏鎮世界互聯網大會上，微軟公司全球執行副總裁沈向洋告訴第一財經。

　　沈向洋坦言這段時間對於人工智慧倫理的問題思考了很多，他認為人工智慧更大的威脅在於對技術的不謹慎而引發的問題，例如人工智慧偏見問題，以搜索為例，在谷歌上搜索「CEO」，搜索結果中沒有一個是女性，也沒有一個是亞洲人，這是一種潛在的偏見。

　　此前一家名為Fama的創業公司通過自動分析求職者的身份，通過網路搜索其性格以及世界觀。可能企業僱用了一個求職簡歷及面試都很優秀的人，但結果發現這個人厭女或者是一個種族主義者。「一個AI工具通過數據積累和演算法模型可以通過照片判斷一個人的性取向，系統準確率高達91%，這其中所帶來的性取向偏見是不能低估的。」沈向洋舉例說道。

　　此外從技術層面，也需要警惕人工智慧技術科研結果不可解釋和安全性問題。「人工智慧需要透明。」沈向洋強調，尤其在醫療領域，一些解決方案看起來可行卻無法解釋。

　　德國頒布了一部關於自動駕駛車輛的法律，規定當車輛出現問題不可避免要產生碰撞，在人與動物之間，選擇撞向動物；在動物和沒有生命的物體之間，選擇後者。那麼問題來了，如果是老人和小孩呢，如何抉擇？在沈向洋看來這是一個值得思考的問題。

　　今天的人工智慧還基本局限於智商方面，完成指定任務，微軟在探索人工智慧情商方面的核心是雙向交流，即對話式人工智慧。在達成情商和情感交流之外，微軟還在嘗試賦予微軟小冰創造力。不過他坦言在做微軟小冰的過程中也是戰戰兢兢，尤其是做情感人工智慧機器人，要懷有敬畏之心，要有責任意識。

　　例如用戶和微軟小冰進行長時間的對話，可能會發生感情上的聯繫，很多人寧可跟機器說話，也不願意和人交流，會產生一種依賴。如果一個用戶跟微軟小冰聊到深夜，不能節制自己，小冰要不要繼續陪他聊下去呢？這是沈向洋做微軟小冰過程中一直糾結的問題。

　　為了防止人工智慧潛在的倫理問題，微軟在內部成立了人工智慧倫理委員會，日常會議要求每位商業部門的領導都必須出席參加。沈向洋認為人工智慧產品保證安全必須要做到三步，首先要有原則，企業要清楚自己做什麼，要幫助人類，而非做人類的主人。其二，要從人工智慧設計上做到把控。第三，產品發佈之前一定要經過多道程序的檢測。

　　AI要解決三個了不起的問題

　　對於當下頻頻提及的人工智慧技術負面影響，蘋果CEO庫克表示並不擔心機器會像人一樣思考，而更擔憂人會像機器一樣思考。因此必須為技術注入人性，賦予技術應有的價值。阿里巴巴集團董事局主席馬雲也提及「人類對自己大腦的認識，不到10%，10%創造出來的機器，不可能超越人類」。

　　對於企業家而言，當下如何用人工智慧技術解決行業實際問題，真正解決人類所存在的問題更為迫切。「人工智慧要真正解決三個了不起的問題，兒童自閉症、中年憂鬱症和老年痴呆症，在感知世界的基礎上，進一步去認知世界。」

　　今日頭條創始人、CEO張一鳴在採訪中提及同樣的問題，他認為AI工程和航天工程、基因工程是人類文明發展的三大跨越式機遇。這三大工程，同時也會是衝擊人類倫理和人類生存的三大挑戰。

　　張一鳴認為AI正處在從實驗室走向大規模商業化的早期階段，很多人對它所帶來的經濟、法律、安全、倫理等問題開始擔憂。比如，AI可能會導致大規模失業；可能導致經濟發展不平衡；可能導致貧富差距加大；可能完全顛覆包括精算、保險、金融等傳統行業；可能讓很多城市修改現行的交通法規。

　　「幸運的是，很多的風險才剛剛露出苗頭，在這個和技術賽跑的時間窗口，應該從最早期開始將技術的研發和社會影響的研究同時推進。」張一鳴說。

　　當AI讓人變得更聰明、更富創造性的同時，人類利益原則要求考慮如何確保人工智慧的發展，不會影響到人類的切身權益，為了解決過錯問題，避免公眾困惑和對未知的恐慌，AI系統必須在程序層面具有可責性，提升透明度以及規範性。