算法決定了我們生活中的很多東西，但是它在多樣性上還有待改進。 編者按：替我們的生活做決定的算法越來越多，讓我們越來越擔心。這些算法決定了我們在互聯網上看的是什么、我們多大程度上會變成受害者或者教唆犯罪的人。算法使用數據集合進行校驗，但是這些數據集合并不包括各個不同的人群。 相關閱讀：學壞容易學好難!人工智能將繼承人類的種族和性別偏見 這可能是一個令人感到意外的結果：依賴算法做決定本質上具有傾向性。用谷歌、百度、必應等搜索引擎以“手“或者“嬰兒“搜索圖片，你會發現，這些圖片大部分都是白皮膚。 使用bing搜索“嬰兒“圖片，首屏只有白皮膚嬰兒的結果。 全球白網，平衡搜索結果的膚色占比 2015年，平面設計師Johanna Burai在谷歌上搜索人類“手“的圖片，發現谷歌搜索最前面的結果只有白皮膚的手。隨后，她發起了“全球白網“(World White Web)計劃。通過她的網站，照片上傳者分享不同膚色的照片，她的網站就可以提供“可選擇“的手部圖片，用來平衡不同的膚色占比，因此，谷歌等搜索引擎就可以抓取不同膚色的照片。 谷歌說，它的圖片搜索結果是網絡內容的反映，包括了某種類型的照片出現的頻率、它們在網絡上添加的描述。這些反映并不涉及它的“價值觀“。 使用谷歌搜索“手“的圖片，結果也一樣。 Burai女士現在已經不維護她的網站了，她相信事情已經有所改觀。她說：“我認為事情正在好轉，人們看到了問題。當我發起這個計劃的時候，人們很震驚，而現在對于這個問題，人們已經給予了更多的關注。“ 算法正義聯盟，檢測算法是否具有偏見 2016年11月，麻省理工學院(MIT)的研究生Joy Buolamwini創辦了算法正義聯盟(AJL)。她試著在一個項目中使用面部識別軟件，但是該軟件不能加載她的面部，因為Buolamwini的膚色很深。 她說：“我膚色很深，而當我戴上白色面具的時候，系統更容易識別。戴上面具其實已經不能說是一張臉了，更適合稱呼它為模型，而電腦可以輕易讀取該模型。“ Joy Buolamwini發現，她的電腦能識別白色面具，而識別不了她膚色為黑色的臉。 這已經不是她第一次遇到類似的問題了。五年前，她不得不讓一個皮膚顏色更淺的室友來幫助她。 “我感慨萬千。我很沮喪。因為這是一個五年還沒有被解決的問題，“她說：“我很震驚，因為白色面具居然那么容易被識別。“ Buolamwini女士說：“如果給你的系統做測試的人跟你很像的話，你的系統會運行地很好，然而你永遠也不可能發現這其中有問題。“她把AJL的反響描述為“巨大且強烈的“。 老師們想要把她的工作展示給學生;研究員想請她檢測他們自己的算法是否有偏見的跡象;人們向她報告自己的經歷““這些人看起來似乎不少：一位研究員想檢測皮膚癌確診算法是否在深色皮膚中有效。 多樣性報告，硅谷巨頭們本身不具備多樣性 Buolamwini女士認為，這種情況的出現，部分原因是技術行業本身就有著證據確鑿的多樣性缺失。 每年，科技巨頭都會發布多樣性報告，它們揭示了嚴肅的現狀。 谷歌2016年1月份的最新數據顯示，技術人員有19%是女性，只有1%是黑人。 微軟2016年9月的數據顯示，17.5%的技術人員是女性，2.7%的技術人員是黑人或者非裔美國人。 Facebook2016年6月的數據指出，美國國內的技術人員有17%是女性，1%是黑人。 有偏向的審美，數據集合單一的缺陷 去年有一場特殊的選美比賽，它收集了100個不同國家的大約6000張自拍，并讓算法來判定選美結果。在44個獲勝者當中，只有一個是非白人，極少數是亞洲人。 該選美比賽當中，18-29歲年齡段的女性獲勝者之三，沒有黑人，其他年齡段也沒有。 Beauty.AI網站的首席科學家Alex Zhavoronkov告訴《衛報》，這個結果有缺陷，因為校驗人工智能的數據集合不夠具有多樣性。他同時說道：“如果數據集合中白種人占比過大，那么實際上有可能得到有偏見的結果。“ 更嚴重的是，根據網站Propublica的研究，人工智能軟件在美國被用來預測哪一位罪犯可能再次犯罪時，它被發現更容易錯誤地把黑人罪犯識別為高再犯風險的人，而把白人罪犯識別為低再犯風險的人。 軟件公司對該研究表示懷疑。 技術樂觀主義者的解決之道 猶他大學計算機學院的副教授Suresh Venkatasubramanian(天吶名字好長)說，趁著問題仍然可見，人工智能的創造者現在就需要行動。 他對BBC說：“最壞的可能就是，事情發生變化了，而我們不再意識到它。換言之，值得關心的是，因為我們視根據算法作決策為理所應當，其中的偏見將從我們承認的人類偏見中，轉移到我們不再承認，因此也無法察覺的事物上。“ 我們是否創造了具有偏見的機器人呢? 然而他是一個技術樂觀主義者。 他說：“所有的算法都表現出種族主義在我看來講不通。并非因為這不可能，而是因為那不是算法實際運行的方式。過去三四年間，已討論了關于算法的問題和可能的解決方法。“ 他提供了一些方法： 創造更好、更具有多樣性的數據集合來校驗算法(例如：算法通過處理成千上萬張圖片進行學習); 分享軟件供應商的最好的實踐; 構建能夠解釋決定的算法，從而任何偏見都能夠被理解。 Buolamwini女士說：“我現在開始想一個問題，老年人在科技領域也并沒有自己的聲音，我們有沒有檢測并確保這一系統對老年人同樣有效呢?因為一些超重人士報告了問題，我就想，我們有沒有關注并確保這一系統對超重人群同樣有效呢?這絕對是擊中人們心弦的問題。“ 她現在也挺樂觀的：“如果人們能夠更多地意識到潛在的問題，她對現狀的改善充滿希望。其實我們所創造的任何技術，它們都是人類抱負和局限的反映。如果我們在包容性上充滿局限性，這將會反映在我們開發的機器人上，或著納入機器人的技術上。“

« 幾個月過去 魅族魅藍Note5積攢超強口碑 | 銀行理財失去優勢 互金理財成為香餑餑 »