7月3日，在第十屆世界和平論壇上，中國科學院院士、清華大學人工智能研究研究院名譽院長張鈸就清華大學人工智能研究院名譽院長、“安全的人工智能”這個主題發表了演講。張博院士說，由于算法不安全、不可靠等風險，即使人工智能只發展到初級階段，仍存在不確定性和風險。下面就由小編為您介紹一下人工智能換臉技術。

訊飛iFLYIoT智能物聯網平臺

2.5

11條點評

咨詢產品

免費試用

解決用戶選型困難的好軟件，有各維度的信息

客戶案例

暫無

合作品牌

暫無

人工智能換臉技術

      張鈸院士還表示，雖然現在不用擔心有人用智能機器人制造殺人武器，但人工智能的誤用和濫用也會導致“仿聲”，“換臉”深度偽造的問題，這種技術往往是假的，很難區分。由于技術難度小，處罰力度小，也大大降低了欺詐成本。

       針對上述問題，張鈸院士重申“第三代人工智能”人工智能的概念應以人為本，以人類安全為可信、可靠、可擴展的人工智能。他呼吁加強國際合作，使人工智能健康發展，造福全人類。

-01-現階段人工智能是否威脅人類安全

       人工智能會失控嗎？包括霍金在內的許多學者的基本觀點是，一旦人類開發出具有自我意識的超級智能機器，人類就無法控制它，這可能會對人類造成災難性的后果。但目前，人類能否制造超級智能機器在學術界仍存在爭議，現階段無法回答這個問題。因此，對于人工智能的安全問題，張博院士認為，我們不僅要考慮遠見，還要考慮近見。

     現階段人工智能不會對人類構成威脅嗎？張博院士否認了這一點。他認為，雖然人工智能只發展到初級階段，但實際上存在一些安全問題，因為現階段人工智能算法仍存在不安全、不可信等風險。

      張鈸院士說，現階段人工智能的決策結果往往是經過精心挑選后的最佳結果。但事實上，在大多數情況下，一些人工智能很難給出令人滿意的結果，他以此為例。“當我問人工智能有多少只眼睛時，它第一次回答了100只左眼和99只右眼；當我再次提問時，它給出了另一個答案，說人們有2.8萬只眼睛；如果你再問同樣的問題，它會說白天有4億只眼睛，是晚上的20多倍。”

       想象一下，如果我用這個系統來幫助我做出決定，它可能會經常做出錯誤的決定。”張鈸院士說。

      數據安全也是一個重大的安全問題。張博院士指出，目前的大數據對人工智能有很大的影響。首先，數據呈幾何增長，現在傾向于收集所有數據而不是數據采樣；第二，注意數量，而不是質量；第三，強調數據的相關性，而不是因果關系。

      張博院士認為，這三種變化給人工智能帶來了更嚴重的安全問題。2016年，微軟推出了一個聊天機器人，后來發表了一系列關于種族歧視和性別歧視的言論。此外，還有一種攻擊人工智能系統的方法“數據下毒”，通過為人工智能提供錯誤的訓練數據來影響人工智能。

-02-深度偽造成本低，真假難辨

      大多數人可能會長期思考，以防止人工智能被誤用和濫用，比如使用智能機器人來創造殺人武器。但事實上，目前人工智能也可能被濫用；如果被濫用，后果常嚴重。

      張鈸院士介紹了深度偽造的問題。他指出，在這個階段，人工智能算法被用來偽造視頻、照片和語音。為了更生動地澄清這一點，他在會議上播放了梁宏達的原聲和合成聲，發現這兩個聲音非常相似，幾乎難以識別。

      張鈸院士說，這兩個演講中有一個是假的，另一個是真的，很難區分。所以我們用機器來判斷，但兩臺機器的測試結果都是錯誤的。第一個測試結果認為A是假的，B是真的，第二個測試結果是兩者都是假的。但事實上，A是真的，B是假的。

      “想象一下，如果你將來沒有說過，被謠言告訴你，以后的技術很難區分真假，那么這對社會是非常有害的，所以各方都應該注意這個問題。”張鈸院士說。除聲音外，“換臉”技術足以造假。張鈸院士說，視頻中的視頻可以通過換臉技術進行。“臉”更換，而且這種技術很容易，但后期很難判斷真假。“視頻中的人不是你，把你的臉放在上面，你沒做過的事也屬于你。”張鈸院士還表示，造假成本太低，很難找到始作俑者，懲罰力度也很低。

-03-如何防止人工智能失控？

      科幻作家阿西莫夫提出了機器人的三個原則。首先，機器人不能傷害人類，也不能袖手旁觀。第二，機器人必須服從人類的命令，除非它違反了第一個原則。第三，機器人應該保護自己免受傷害，但不能違反前兩條規則。

        張鈸院士說，由于現階段機器人行為不可預測，我們不知道這種行為是否會傷害人類，因此很難執行這一原則。他重申了這一點“發展第三代人工智能”。第三代人工智能的中心思想是以人類安全為出發點，為人工智能提供安全滲透、評價、加固、防火墻等方法，開發可信、可靠、可擴展的人工智能。

       “我們現在提到的計劃很簡單，就是增加人類的智慧。什么是人類的智慧？知識。現在數據驅動的方法只強調數據、算法和計算能力是不夠的，必須添加知識。”張鈸院士說。

      張鈸院士呼吁，“如今，安全人工智能的發展是當務之急。作為人工智能的研究者，我們必須專注于發展以人類安全為核心的安全人工智能。我也希望世界能夠團結起來，通過國際合作，讓技術服務于人類的需求，讓人工智能健康發展，造福全人類。”以上內容就是小編為您介紹的人工智能換臉技術。