機(jī)器學(xué)習(xí)系統(tǒng)越來越多地被用作日常生活中的工具。通常，它們被用于高風(fēng)險(xiǎn)的過程中，沒有參與者的同意，其他人也沒有合理的機(jī)會(huì)對(duì)系統(tǒng)的決定提出質(zhì)疑。比如當(dāng)兒童福利機(jī)構(gòu)使用風(fēng)險(xiǎn)評(píng)估系統(tǒng)來識(shí)別處于風(fēng)險(xiǎn)中的兒童時(shí)；當(dāng)一個(gè)機(jī)器學(xué)習(xí)模型決定了誰(shuí)看到了哪些關(guān)于就業(yè)、住房或信貸機(jī)會(huì)的在線廣告；或者當(dāng)面部識(shí)別系統(tǒng)被用來監(jiān)視黑人和棕色人種居住的社區(qū)時(shí)。下文主要介紹的是機(jī)器學(xué)習(xí)實(shí)踐者構(gòu)建更公平系統(tǒng)的10種方法。

ML系統(tǒng)被廣泛部署，因?yàn)樗鼈儽徽J(rèn)為是“中立的”和“客觀的。然而在現(xiàn)實(shí)中，機(jī)器學(xué)習(xí)系統(tǒng)反映了那些設(shè)計(jì)和開發(fā)它們的人的信念和偏見。結(jié)果，ML系統(tǒng)反映并放大了設(shè)計(jì)者的信念和偏見，至少和人類仲裁者一樣容易出錯(cuò)。

當(dāng)大規(guī)模部署ML系統(tǒng)時(shí)，它們會(huì)造成危害——尤其是當(dāng)它們的決策是錯(cuò)誤的時(shí)候。邊緣化群體成員感受到的傷害更大。在這一時(shí)刻，這一點(diǎn)尤其明顯，因?yàn)榫觳块T正在使用面部識(shí)別系統(tǒng)跟蹤作為全球黑人生活運(yùn)動(dòng)一部分進(jìn)行抗議的人，而且最近在英國(guó)，在考試因流行病而取消后，使用了一種語(yǔ)言識(shí)別系統(tǒng)來確定學(xué)生的A級(jí)成績(jī)，這危及了貧困學(xué)生的未來，其中許多人是有色人種和移民。

在本文中，我將描述一些機(jī)器學(xué)習(xí)系統(tǒng)造成傷害的例子。然后，我將提供一些具體的建議和資源，機(jī)器學(xué)習(xí)實(shí)踐者可以使用它們來開發(fā)更公平的機(jī)器學(xué)習(xí)系統(tǒng)。我希望這篇文章鼓勵(lì)其他機(jī)器學(xué)習(xí)從業(yè)者開始使用和教育他們的同行在他們的團(tuán)隊(duì)和公司中開發(fā)更公平的語(yǔ)言學(xué)習(xí)系統(tǒng)的實(shí)踐。

　　機(jī)器學(xué)習(xí)系統(tǒng)是如何造成危害的

2020年6月，羅伯特·威廉斯，一個(gè)黑人，被底特律警察局逮捕，因?yàn)槊娌孔R(shí)別系統(tǒng)指認(rèn)他是最近在商店行竊的人；然而，他的臉和照片中的臉的視覺對(duì)比清楚地表明他們不是同一個(gè)人。

盡管如此，威廉姆斯被逮捕、審訊、拘留超過24小時(shí)，用自己的錢保釋，并在案件被駁回前不得不出庭。

這起“事故”嚴(yán)重傷害了威廉姆斯先生和他的家人:

· 他感到羞辱和尷尬。當(dāng)接受記者采訪時(shí)紐約時(shí)報(bào)關(guān)于這件事，他說:“我媽媽不知道。這不是我引以為豪的事……這是羞辱。”

· 這對(duì)他和他的家人造成了持久的創(chuàng)傷。如果威廉姆斯拒捕——考慮到這是不公正的，這本來是合理的——他可能會(huì)被殺。事實(shí)上，這種經(jīng)歷令人痛心。他和他的妻子現(xiàn)在想知道他們是否需要讓他們的兩個(gè)小女兒接受治療。

· 這讓他的工作——以及他養(yǎng)活自己和家人的能力——面臨風(fēng)險(xiǎn)。他可能會(huì)丟掉工作，盡管他的案子最終被駁回；公司解雇員工而不受懲罰的情況少得多。幸運(yùn)的是，他的老板了解情況，但他的老板仍然建議他不要在工作中告訴別人。

· 這幾乎導(dǎo)致他有永久的犯罪記錄。當(dāng)威廉姆斯出庭時(shí)，他的案件最初被“無偏見”駁回，這意味著他以后仍可能被起訴。只是在假陽(yáng)性受到媒體廣泛關(guān)注后，檢察官才道歉并主動(dòng)提出刪除他的記錄和指紋。

當(dāng)?shù)鼐觳块T使用的面部識(shí)別系統(tǒng)在這里造成的傷害是不可接受的。

　　更廣泛的背景

在上述算法系統(tǒng)的情況下，它們?cè)斐傻膫Ω睿核麄償U(kuò)大了現(xiàn)存的壓迫體系，經(jīng)常以“中立”和“客觀”的名義換句話說，以上例子并非孤立事件；它們?cè)斐闪碎L(zhǎng)期的傷害模式。

　　為機(jī)器學(xué)習(xí)系統(tǒng)收集標(biāo)簽是如何造成危害的

危害不僅僅是已經(jīng)部署的機(jī)器學(xué)習(xí)系統(tǒng)造成的；在開發(fā)機(jī)器學(xué)習(xí)系統(tǒng)的同時(shí)，也造成了危害。也就是說，當(dāng)為了訓(xùn)練機(jī)器學(xué)習(xí)模型而收集標(biāo)簽時(shí)，通常會(huì)造成傷害。

商業(yè)面部識(shí)別系統(tǒng)允許警察部門更容易和微妙地瞄準(zhǔn)黑人和男性，包括大規(guī)模瞄準(zhǔn)他們。一個(gè)面部識(shí)別系統(tǒng)在一小時(shí)內(nèi)識(shí)別的“罪犯”比一百名警察在一個(gè)月內(nèi)識(shí)別的還要多，和這樣做的成本更低。因此，商業(yè)面部識(shí)別系統(tǒng)允許警察部門“大規(guī)模生產(chǎn)”他們的過度合法化，鎖定和謀殺黑人的做法。

　　為機(jī)器學(xué)習(xí)系統(tǒng)收集標(biāo)簽是如何造成危害的

危害不僅僅是已經(jīng)部署的機(jī)器學(xué)習(xí)系統(tǒng)造成的；在開發(fā)機(jī)器學(xué)習(xí)系統(tǒng)的同時(shí)，也造成了危害。也就是說，當(dāng)為了訓(xùn)練機(jī)器學(xué)習(xí)模型而收集標(biāo)簽時(shí)，通常會(huì)造成傷害。

為什么會(huì)發(fā)生這些傷害

此時(shí)，你可能會(huì)問自己，”為什么這些傷害正在發(fā)生嗎？“答案是多方面的:部署的機(jī)器學(xué)習(xí)系統(tǒng)對(duì)參與者造成傷害的原因有很多。

　　當(dāng)使用最大似然系統(tǒng)時(shí)

機(jī)器學(xué)習(xí)系統(tǒng)造成傷害的一個(gè)主要原因是它們使用的環(huán)境。也就是說，因?yàn)闄C(jī)器學(xué)習(xí)系統(tǒng)被認(rèn)為是“中性的”和“客觀的”，它們是通常用于高風(fēng)險(xiǎn)的決策過程作為一種省錢的方法。高風(fēng)險(xiǎn)的決策過程本質(zhì)上更容易造成傷害，因?yàn)闆Q策過程中的錯(cuò)誤可能會(huì)對(duì)某人的生活產(chǎn)生重大負(fù)面影響。

在高風(fēng)險(xiǎn)決策過程中引入機(jī)器學(xué)習(xí)系統(tǒng)，頂多不影響系統(tǒng)造成危害的概率；最壞的情況是增加由于機(jī)器學(xué)習(xí)模型傾向于放大對(duì)邊緣化群體的偏見，人類對(duì)審核模型決策的自滿，因?yàn)樗鼈兪恰爸行缘摹焙汀翱陀^的”，以及機(jī)器學(xué)習(xí)模型的決策經(jīng)常是不可解釋的，造成傷害的可能性。

　　ML系統(tǒng)是如何設(shè)計(jì)的

機(jī)器學(xué)習(xí)系統(tǒng)也因其設(shè)計(jì)方式而造成危害。例如，當(dāng)設(shè)計(jì)一個(gè)系統(tǒng)時(shí)，工程師通常不考慮系統(tǒng)可能做出錯(cuò)誤決定的可能性；因此，機(jī)器學(xué)習(xí)系統(tǒng)通常不要包含參與者對(duì)決定提出異議或?qū)で笞匪鳈?quán)的機(jī)制。

在設(shè)計(jì)多模型系統(tǒng)時(shí)，誰(shuí)的觀點(diǎn)是中心

ML系統(tǒng)造成傷害的另一個(gè)原因是，在設(shè)計(jì)系統(tǒng)時(shí)，最有可能受到它們傷害的人的視角并不集中。

由人們?cè)O(shè)計(jì)的系統(tǒng)將反映這些人的信仰和偏見——無論是有意識(shí)的還是無意識(shí)的。機(jī)器學(xué)習(xí)系統(tǒng)絕大多數(shù)是由一群非常同質(zhì)的人構(gòu)建的:白人、亞裔美國(guó)人或亞裔異性戀男性，年齡在20至50歲之間，身體健康、神經(jīng)典型，是美國(guó)人和/或居住在美國(guó)，具有傳統(tǒng)教育背景，包括大約50所精英大學(xué)之一的計(jì)算機(jī)科學(xué)學(xué)位。因此，機(jī)器學(xué)習(xí)系統(tǒng)偏向于這一小部分人的經(jīng)驗(yàn)。

此外，機(jī)器學(xué)習(xí)系統(tǒng)通常用于過度涉及歷史上邊緣化群體的環(huán)境中，如預(yù)測(cè)累犯或監(jiān)控“高犯罪率”社區(qū)，或者用于確定長(zhǎng)期以來被邊緣化群體不公平剝奪的資源的獲取途徑，如住房、就業(yè)機(jī)會(huì)、信貸和貸款以及醫(yī)療保健。例如，由于黑人在歷史上被剝奪了獲得醫(yī)療保健的公平機(jī)會(huì)，在這種情況下使用的機(jī)器學(xué)習(xí)系統(tǒng)顯示出類似的歧視模式，因?yàn)樗鼈內(nèi)Q于歷史假設(shè)和數(shù)據(jù)。因此，除非采取深思熟慮的行動(dòng)來集中管理語(yǔ)言系統(tǒng)正在仲裁的群體的經(jīng)驗(yàn)，否則機(jī)器學(xué)習(xí)系統(tǒng)會(huì)導(dǎo)致歷史重演。

在上述兩點(diǎn)的交叉點(diǎn)上有一個(gè)令人不寒而栗的認(rèn)識(shí):設(shè)計(jì)機(jī)器學(xué)習(xí)系統(tǒng)的人很少受到機(jī)器學(xué)習(xí)系統(tǒng)的影響。 這聽起來與事實(shí)驚人地相似大多數(shù)警察不住在他們工作的城市。

　　使用最大似然系統(tǒng)時(shí)缺乏透明度

機(jī)器學(xué)習(xí)系統(tǒng)也會(huì)造成傷害，因?yàn)樗?jīng)常不清楚什么時(shí)候算法被用來做決定。 這是因?yàn)楣静恍枰稒C(jī)器學(xué)習(xí)系統(tǒng)何時(shí)以及如何使用，更不用說獲得參與者的同意，即使這些決定的結(jié)果影響到人類的生活。如果有人不知道他們受到了最大限度語(yǔ)言系統(tǒng)的影響，那么他們不能把他們可能經(jīng)歷的傷害歸因于它。

此外，即使一個(gè)人知道或懷疑他們受到了機(jī)器學(xué)習(xí)系統(tǒng)的傷害，證明他們受到歧視是困難的或者不可能的，因?yàn)镸L系統(tǒng)作出的整套決定是私人的，因此不能對(duì)其歧視性進(jìn)行審計(jì)。因此，機(jī)器學(xué)習(xí)系統(tǒng)造成的危害往往無法“證明”

　　對(duì)洗錢系統(tǒng)參與者缺乏法律保護(hù)

最后，機(jī)器學(xué)習(xí)系統(tǒng)會(huì)造成危害，因?yàn)槟壳瓣P(guān)于何時(shí)以及如何使用機(jī)器學(xué)習(xí)系統(tǒng)的監(jiān)管或法律監(jiān)督非常少，因此公司、政府和其他組織可以利用它們來歧視參與者而不受懲罰。

關(guān)于面部識(shí)別，這正在慢慢改變：2019年，舊金山成為第一個(gè)禁止地方政府機(jī)構(gòu)使用面部識(shí)別的主要城市。此后，其他幾個(gè)城市也這樣做了。

然而，仍有數(shù)百個(gè)已知的地方政府機(jī)構(gòu)使用面部識(shí)別的例子，包括在美國(guó)的入境點(diǎn)，如邊境和機(jī)場(chǎng)，以及由當(dāng)?shù)鼐匠鲇诓幻髂康摹Ｔ谶@種情況下使用面部識(shí)別系統(tǒng)——尤其是考慮到他們的大多數(shù)決定可能是錯(cuò)誤的——會(huì)對(duì)現(xiàn)實(shí)世界產(chǎn)生影響，包括騷擾、無理監(jiān)禁和驅(qū)逐出境。

相對(duì)于其他類型的機(jī)器學(xué)習(xí)系統(tǒng)，法律上的進(jìn)步很少。

　　行動(dòng)號(hào)召

鑒于洗錢系統(tǒng)的使用環(huán)境，目前缺乏對(duì)這種環(huán)境的法律和監(jiān)管監(jiān)督，以及受洗錢系統(tǒng)傷害的人往往缺乏社會(huì)權(quán)力。由于他們的種族、性別、殘疾、公民身份和/或財(cái)富，ML系統(tǒng)開發(fā)者有大規(guī)模地比參與者更有力量。

設(shè)計(jì)標(biāo)簽任務(wù)的人和完成標(biāo)簽任務(wù)的人之間有相似的權(quán)力動(dòng)態(tài)：標(biāo)記任務(wù)請(qǐng)求者比標(biāo)記代理具有更大的權(quán)力。

這里，ML系統(tǒng)開發(fā)者被定義為任何參與機(jī)器學(xué)習(xí)系統(tǒng)的設(shè)計(jì)、開發(fā)和部署的人，包括機(jī)器學(xué)習(xí)工程師和數(shù)據(jù)科學(xué)家還有其他技術(shù)學(xué)科的軟件工程師、產(chǎn)品經(jīng)理、工程經(jīng)理、UX研究人員、UX作家、律師、中層管理人員和高管。包含所有這些角色是為了強(qiáng)調(diào)，即使您不直接在機(jī)器學(xué)習(xí)系統(tǒng)上工作，如果你在一家使用機(jī)器學(xué)習(xí)系統(tǒng)的公司或組織工作，那么你就有能力影響公司使用機(jī)器學(xué)習(xí)的時(shí)間和方式。

讓我明確一點(diǎn)：個(gè)人行動(dòng)是不夠的——我們迫切需要設(shè)計(jì)良好的立法來指導(dǎo)何時(shí)以及如何使用最大限度地減少系統(tǒng)。重要的是，應(yīng)該有一些ML系統(tǒng)所處的環(huán)境不能被使用，不管它們有多“準(zhǔn)確”，因?yàn)檎`用和錯(cuò)誤的概率太大了——就像警察部門使用面部識(shí)別系統(tǒng)。

不幸的是，我們還沒有必要的立法和條例。同時(shí)，作為ML系統(tǒng)開發(fā)人員，我們應(yīng)該有意識(shí)地考慮我們、我們的團(tuán)隊(duì)或我們的公司擁有和使用的ML系統(tǒng)。

如何建立更公平的機(jī)器學(xué)習(xí)系統(tǒng)

如果你是一個(gè)機(jī)器學(xué)習(xí)系統(tǒng)的開發(fā)者尤其是如果你是機(jī)器學(xué)習(xí)的實(shí)踐者，比如語(yǔ)言工程師或數(shù)據(jù)科學(xué)家—這里有10種方法可以幫助您構(gòu)建更公平的機(jī)器學(xué)習(xí)系統(tǒng):

當(dāng)設(shè)計(jì)一個(gè)新的ML系統(tǒng)或評(píng)估一個(gè)現(xiàn)有的ML系統(tǒng)時(shí)，問你自己和你的團(tuán)隊(duì)以下問題語(yǔ)境其中正在部署/正在部署系統(tǒng):

· 什么當(dāng)這個(gè)移動(dòng)學(xué)習(xí)系統(tǒng)被部署時(shí)會(huì)出錯(cuò)嗎？

· 出了問題，誰(shuí)受到傷害？

· 可能性有多大是不是會(huì)出問題？

· 有傷害嗎不成比例地落在邊緣化群體身上？

使用您對(duì)這些問題的回答來評(píng)估如何繼續(xù)。例如，如果可能，主動(dòng)設(shè)計(jì)防止傷害發(fā)生的解決方案。例如，添加防止傷害的保障措施，如包括人為干預(yù)和參與者質(zhì)疑系統(tǒng)決策的機(jī)制，并通知參與者正在使用機(jī)器學(xué)習(xí)算法。或者，如果傷害的可能性和規(guī)模太大，不要部署它。相反，考慮尋求一種不依賴于機(jī)器學(xué)習(xí)或以風(fēng)險(xiǎn)較低的方式使用機(jī)器學(xué)習(xí)的解決方案。部署一個(gè)有偏見的機(jī)器學(xué)習(xí)系統(tǒng)會(huì)對(duì)系統(tǒng)參與者造成現(xiàn)實(shí)世界的傷害，也會(huì)對(duì)你的公司聲譽(yù)造成損害。

#2

利用最佳實(shí)踐開發(fā)更公平的最大似然系統(tǒng)。機(jī)器學(xué)習(xí)公平性研究人員已經(jīng)設(shè)計(jì)和測(cè)試最佳實(shí)踐好幾年了。例如，一個(gè)最佳實(shí)踐是，當(dāng)發(fā)布數(shù)據(jù)集供公共或內(nèi)部使用時(shí)，同時(shí)發(fā)布一個(gè)數(shù)據(jù)表，這是一個(gè)簡(jiǎn)短的文檔，它共享數(shù)據(jù)集的消費(fèi)者需要的信息，以便做出明智的使用決策。例如，用于收集數(shù)據(jù)的機(jī)制或程序，是否進(jìn)行了道德審查過程，數(shù)據(jù)集是否與人相關(guān)。

同樣，當(dāng)發(fā)布一個(gè)經(jīng)過培訓(xùn)的模型供公共或內(nèi)部使用時(shí)，同時(shí)發(fā)布一個(gè)模型卡，這是一份簡(jiǎn)短的文件，分享關(guān)于模型的信息。例如，評(píng)估結(jié)果：最好按不同的人口統(tǒng)計(jì)群體和社區(qū)分類、預(yù)期用途、避免的用途、對(duì)模型培訓(xùn)流程的洞察。

最后，考慮實(shí)現(xiàn)一個(gè)公司范圍內(nèi)的內(nèi)部算法審計(jì)流程，像這樣Deb Raji,安德魯·斯馬特和他們的合作者在2020年的論文中提出彌合人工智能責(zé)任差距:為內(nèi)部算法審計(jì)定義端到端框架。

#3

與您的公司或組織合作，與代表機(jī)器學(xué)習(xí)系統(tǒng)傾向于邊緣化的人群的倡導(dǎo)組織發(fā)展伙伴關(guān)系，以便負(fù)責(zé)任地讓邊緣化社區(qū)作為利益相關(guān)者參與進(jìn)來。這類組織的例子包括變化的顏色還有有色人種協(xié)進(jìn)會(huì)。然后，在開發(fā)新的機(jī)器學(xué)習(xí)系統(tǒng)或評(píng)估現(xiàn)有的機(jī)器學(xué)習(xí)系統(tǒng)時(shí)，尋求并整合他們的反饋。

#4

雇傭來自代表性不足背景的機(jī)器學(xué)習(xí)工程師和數(shù)據(jù)科學(xué)家，特別是黑人、土著人、拉丁人、殘疾人、變性人和非二進(jìn)制人、以前被監(jiān)禁的人，以及來自技術(shù)代表性不足的國(guó)家，例如非洲國(guó)家、東南亞國(guó)家和南美洲國(guó)家的人。請(qǐng)注意，這將需要重新思考人才是如何發(fā)現(xiàn)和培養(yǎng)的——考慮從美國(guó)歷史悠久的黑人學(xué)院和大學(xué)（HBCUs）招募人員，開辦編碼和數(shù)據(jù)科學(xué)訓(xùn)練營(yíng)，或者啟動(dòng)一個(gè)內(nèi)部項(xiàng)目，如懈怠的下一章。

另一方面，與你的公司合作，支持那些培養(yǎng)來自代表性不足的背景的人才的組織，喜歡AI4ALL,黑人女孩守則,代碼2040,NCWIT,技術(shù),TransTech，和出去上大學(xué)。像這樣的組織對(duì)于增加技術(shù)工作中來自代表性不足背景的人數(shù)至關(guān)重要，包括在人工智能/人工智能工作中，并且他們都有成功的記錄。此外，考慮用自己的錢和時(shí)間來支持這樣的組織。

#5

與您的公司或組織合作簽署安全臉誓言，這是組織公開承諾減少面部分析技術(shù)濫用的機(jī)會(huì)。這份保證書是由算法正義聯(lián)盟還有喬治敦法律技術(shù)與隱私中心，并且已經(jīng)被許多領(lǐng)先的倫理和隱私專家簽署。

#6

了解更多關(guān)于機(jī)器學(xué)習(xí)系統(tǒng)造成危害的方式。例如，以下是繼續(xù)學(xué)習(xí)的推薦資源:

1. [書]數(shù)學(xué)毀滅的武器:大數(shù)據(jù)如何增加不平等并威脅民主凱西·奧尼爾（2016）

2. [書]壓迫的算法:搜索引擎如何強(qiáng)化種族主義作者:Safiya Noble （2018）

#7

了解現(xiàn)有機(jī)器學(xué)習(xí)系統(tǒng)的改進(jìn)方式，以減少危害。例如，IBM致力于提高其商業(yè)面部識(shí)別系統(tǒng)在種族和性別偏見方面的性能，谷歌一直致力于減少Google Translate中的性別偏見，而Jigsaw(在谷歌內(nèi)部)已經(jīng)致力于改變Perspective AI，以減少將包含頻繁目標(biāo)群體的短語(yǔ)歸類為仇恨言論。

#8

針對(duì)不同的影響對(duì)機(jī)器學(xué)習(xí)系統(tǒng)進(jìn)行審核。即使一項(xiàng)政策或制度是中立的，當(dāng)一個(gè)群體比另一個(gè)群體受到更大的不利影響時(shí)，就會(huì)產(chǎn)生不同的影響。Facebook的廣告投放系統(tǒng)是一個(gè)造成不同影響的系統(tǒng)的例子。

例如，使用燈塔工程，一種方法論今年早些時(shí)候發(fā)布的Airbnb使用匿名的人口統(tǒng)計(jì)數(shù)據(jù)來衡量用戶體驗(yàn)差異，這可能是由于歧視或偏見，或者ArthurAI，這是一個(gè)ML監(jiān)控框架，允許您監(jiān)控模型偏差。或者請(qǐng)一家算法咨詢公司對(duì)你的團(tuán)隊(duì)或公司擁有的機(jī)器學(xué)習(xí)系統(tǒng)進(jìn)行審計(jì)，喜歡奧尼爾風(fēng)險(xiǎn)咨詢和算法審計(jì)或者算法正義聯(lián)盟。

#9

當(dāng)雇傭第三方供應(yīng)商或使用眾包平臺(tái)進(jìn)行機(jī)器學(xué)習(xí)標(biāo)簽任務(wù)時(shí)，對(duì)你選擇支持的人持批評(píng)態(tài)度。詢問將為你貼標(biāo)簽的人的工作條件。此外，如果可能的話，對(duì)供應(yīng)商進(jìn)行現(xiàn)場(chǎng)訪問，以評(píng)估自己的工作條件。他們的時(shí)薪是多少?他們有醫(yī)療保健和其他福利嗎?他們是全職員工還是合同工?他們是否讓員工接觸到暴力或仇恨的內(nèi)容?公司內(nèi)部是否有職業(yè)發(fā)展和晉升的機(jī)會(huì)?

#10

向你的團(tuán)隊(duì)或公司介紹機(jī)器學(xué)習(xí)系統(tǒng)造成的危害以及如何減輕這些危害。越多的人理解機(jī)器學(xué)習(xí)系統(tǒng)造成的危害以及目前存在于ML系統(tǒng)開發(fā)者和ML系統(tǒng)參與者之間的權(quán)力不平衡，我們就越有可能影響團(tuán)隊(duì)和公司的變革。

　　結(jié)論

機(jī)器學(xué)習(xí)系統(tǒng)是非常強(qiáng)大的工具；不幸的是，他們可能是授權(quán)的代理人，也可能是傷害的代理人。作為機(jī)器學(xué)習(xí)的實(shí)踐者，我們有責(zé)任認(rèn)識(shí)到我們建立的系統(tǒng)造成的危害，然后采取相應(yīng)的行動(dòng)。我們可以共同努力，建立一個(gè)負(fù)責(zé)任地使用機(jī)器學(xué)習(xí)系統(tǒng)的世界，不強(qiáng)化現(xiàn)有的系統(tǒng)性偏見，提升和增強(qiáng)邊緣化群體的能力。想了解更多關(guān)于機(jī)器學(xué)習(xí)的信息，請(qǐng)繼續(xù)關(guān)注中培偉業(yè)。