近期卡巴斯基發布了一份題為"算法時代的愛情"的調查報告，報告中提到了婚戀App中算法的使用，以及算法在推薦與匹配潛在戀愛對象（用戶）方面的情況。

這份巴斯基委托進行的調查報告顯示了一些比較有意思的結果：

64%受訪者表示婚戀App的推薦匹配效果很好，44%的人會相信人工智能或算法來為他們找到匹配的對象；

當然，也有39%的受訪者發現按算法排序是不科學的，56%的人不相信算法能夠真正理解戀愛中的復雜性。

不只在婚戀方面，這類推薦算法連同價格算法、評價算法等在其他領域也大行其道，幾乎無處不在。

新聞資訊、社交、購物、餐飲、出行以及短視頻等App通過各類算法給用戶推薦他們感興趣的話題和內容，深深地將用戶綁定在他們所精心構筑的"牢籠"。

這些技術的興起得益于近年來以人工智能、大數據等為代表的新技術新應用的快速發展。

這些新應用在服務人們社會生活的過程中，通過各種算法將大數據進行收集和處理，并為用戶進行畫像，精準的描繪出用戶的各種喜好，最終控制用戶行為或精準推送各類廣告。

可以說算法是許多App的技術基礎，甚至是數字社會發展的重要基石。雖然這些算法特別是AI算法為社會生活創造了巨大價值，但其對用戶隱私的侵犯、大數據殺熟等弊端也逐漸暴露出來。

并且，與其他傳統方式不同，算法的應用也讓許多惡意行為變得更為隱蔽。

對此，賽迪智庫指出，算法濫用會帶來嚴重的社會危害：濫用數據分析和算法推薦，侵害消費者合法權；利用算法實現利益侵占，壓榨平臺商家和從業者；基于缺陷數據集訓練算法，導致算法偏見和不公平決策。

與此同時，算法濫用問題也成為世界性危害，許多國家對此進行了法律和制度的約束。

歐盟的《通用數據保護條例》中規定"收集個人數據進行自動化決策時，應當向數據主體提供關于此類問題處理的邏輯及預期后果的有效信息"。

2019年4月美國發布的《算法問責法案（草案）》中涉及相關算法影響評估的規定，要求衡量算法在設計和訓練數據中，對準確性、公平性、偏見、歧視及對隱私和安全的影響。

隨著《網絡安全法》《數據安全法》《個人信息保護法》等法律的陸續出臺，我國在數字治理方面的法律法規也在逐漸完善。 

過度信息收集和過度索權是“算法作惡”的常見形式。 

《個人信息保護法》明確規定了“個人信息處理者利用個人信息進行自動化決策，應當保證決策的透明度和結果公平、公正，不得對個人在交易價格等交易條件上實行不合理的差別待遇； 

通過自動化決策方式向個人進行信息推送、商業營銷，應當同時提供不針對其個人特征的選項，或者向個人提供便捷的拒絕方式”等，從法律層面向信息過度收集和過度索權行為說NO。 

為了規范互聯網信息服務算法推薦活動，國家互聯網信息辦公室就《互聯網信息服務算法推薦管理規定（征求意見稿）》（以下簡稱"管理規定"）公開征求意見。

管理規定提出，算法推薦服務提供者應當"保護消費者合法權益，不得根據消費者的偏好、交易習慣等特征，利用算法在交易價格等交易條件上實行不合理的差別待遇等違法行為。"

人工智能技術的發展也為算法問題增加了新的不確定性。

2021年7月，中國信息通信研究院與京東探索研究院聯合發布的《可信人工智能白皮書》中指出，當前人工智能技術風險引發信任危機，其中包括算法安全導致的應用風險、黑箱模型導致算法不透明、數據歧視導致智能決策偏見、系統決策復雜導致責任事故主題難以界定、數據濫用導致隱私泄露風險，因此發展可信人工智能正在成為全球共識。

隱私問題是算法濫用帶來的嚴重問題之一，盡管在網絡安全領域，數據安全和隱私保護始終是重中之重，但時至今日出現的數據安全問題仍屢見不鮮。

在解決隱私泄露方面，業界出現了許多更為針對性的技術措施，其中包括差分隱私和基于聯邦學習的隱私保護。

差分隱私早在2006年就已提出，是人工智能系統隱私保護能力的一個量化指標，旨在提供一種當從統計數據庫查詢時，最大化數據查詢的準確性，同時最大限度減少識別其記錄的機會。

它通過對數據信息順序置換、添加噪聲等方式來防御攻擊。

聯邦學習技術于2015年提出，可在滿足用戶隱私保護、數據安全和法規的要求下，進行數據使用和機器學習建模。

聯邦學習通過將模型部署到用戶設備，各設備使用自己的私有數據計算模型參數的梯度，進而利用通過中央服務器進行融合后的數據來更新模型參數。

針對算法治理方面，賽迪智庫建議：

應當探索建立算法應用監管制度體系，一是建立算法應用影響評估制度，二是建立算法透明度制度，三是建立算法問責機制；

加強算法應用的安全測試與監測，一是組織開展算法應用安全測試，二是利用大數據、人工智能等技術手段，加強對網絡平臺算法數據采集、運行、社會影響等方面的動態監測，強化監管；

依托行業組織強化企業算法倫理建設，一是加快研究制定算法倫理規則，二是支持設立算法社區、行業聯盟等組織，指導企業建立內部治理框架、控制機制和責任體系，防止算法濫用。

技術是把雙刃劍，算法的"原罪"背后，永遠是人。

本文來自微信公眾號"科技云報道"（ID：ITCloud-BD），作者：科技云報道，36氪經授權發布。