作者|雷宇

來(lái)源|智能相對(duì)論（aixdlun）

1911年辛亥革命后，上海外灘公園外立著的一塊寫有幾行字的告示牌——“華人與狗不得入內(nèi)”被拆除，上海人民稍微松了一口氣。

但歧視不會(huì)缺席，也不會(huì)遲到。

直到今天，職場(chǎng)對(duì)女性的歧視依然嚴(yán)重，雖然少有用人單位明目張膽的聲張只招男性不找女性，但招聘女性時(shí)設(shè)置的門檻卻無(wú)不寫著歧視，除了考察工作能力，還要考量婚姻狀況，家庭狀況、生育狀態(tài)等等。并且，這些問(wèn)題在入職前，這些你一直以為的隱私的都會(huì)被赤裸裸的直接提問(wèn)。

更讓人感到無(wú)力的是，隨著人工智能技術(shù)的進(jìn)步，這種職場(chǎng)歧視似乎在不斷加深。這兩天，亞馬遜AI招聘工具被曝性別歧視，該系統(tǒng)會(huì)給予包含“女性”這個(gè)詞的簡(jiǎn)歷以低星評(píng)級(jí)。即使技術(shù)人員修改程序使得系統(tǒng)在特定術(shù)語(yǔ)上秉持中立的原則，但是接下機(jī)器還會(huì)有什么新的歧視，無(wú)人知曉。

數(shù)據(jù)是社會(huì)的產(chǎn)物，技術(shù)中立是不可能的

技術(shù)中立是不可能中立的，這輩子都不可能。

你以為的技術(shù)中立是什么？不含偏見，不偏不倚，人人都能平等的享受科技帶來(lái)的便捷。

這是企業(yè)的宣傳語(yǔ)但不是事實(shí)。任何一種技術(shù)的發(fā)明一定免不了沾滿了有血有肉的人的“色彩”，它由人塑造，受當(dāng)下的社會(huì)環(huán)境影響，是社會(huì)的產(chǎn)物。而人工智能技術(shù)，它由數(shù)據(jù)驅(qū)動(dòng)，由于數(shù)據(jù)具有一定的社會(huì)屬性，所以數(shù)據(jù)里的歧視，會(huì)完整的反射到了人工智能招聘機(jī)器上甚至?xí)怀杀斗糯蟆?/p>

果殼網(wǎng)文章《當(dāng)AI學(xué)會(huì)性別歧視》里提到一個(gè)案例，有一位研究人員的研究?jī)?nèi)容是辨認(rèn)場(chǎng)景復(fù)雜生活照，她發(fā)現(xiàn)，男人被認(rèn)成女人的圖片有一些共同點(diǎn)——都是站在廚房里，或者在做家務(wù)。

這并不是哪里出現(xiàn)了問(wèn)題，而是機(jī)器從大數(shù)據(jù)里得到的認(rèn)知就是女人和某些特定的元素有關(guān)，比如廚房，比如家務(wù)?？磥?lái)不管哪個(gè)國(guó)家，女性都多于家庭聯(lián)系在一起。

波伏娃說(shuō)，一個(gè)人不是生來(lái)就是女人，她是變成女人的。

我們毫無(wú)知覺(jué)的變成了女人，又不自覺(jué)的向女性身份看齊表示認(rèn)同。機(jī)器仿佛是《皇帝的新衣》里那個(gè)天真小孩，敏銳的察覺(jué)我們身為女人所帶有的標(biāo)簽（主動(dòng)或被動(dòng)），最后以一種近乎殘酷的方式呈現(xiàn)出來(lái)。就像人們常常覺(jué)得男生比女生更適合理科一樣，人們固有的觀念是男性比女性更適合領(lǐng)導(dǎo)崗位，男性比女性更擅于決策等等。在谷歌的廣告服務(wù)中，男性會(huì)比女性看到更多的高薪招聘廣告，這些既定的事實(shí)使得女性的職場(chǎng)天花板愈加明顯。

樂(lè)觀一點(diǎn)說(shuō)，隨著社會(huì)的進(jìn)步，職場(chǎng)對(duì)女性的歧視將會(huì)慢慢改變，悲觀一點(diǎn)，……還是不說(shuō)了吧。在實(shí)際的機(jī)器訓(xùn)練中，數(shù)據(jù)驅(qū)動(dòng)的技術(shù)如果能全面反映數(shù)據(jù)本身的內(nèi)在聯(lián)系，人們無(wú)疑會(huì)認(rèn)可這門技術(shù)，但是如果這門技術(shù)反應(yīng)的內(nèi)在聯(lián)系是人們不希望它反應(yīng)的呢？這些明晃晃、大剌剌、冷冰冰的職場(chǎng)歧視，一句所謂的技術(shù)中立，就能解釋嗎？

正如劍橋大學(xué)教授魯恩?奈如普（Rune Nyrup）所言，“沒(méi)有事實(shí)上的技術(shù)中立。對(duì)機(jī)器來(lái)說(shuō)，中立的就是占統(tǒng)治地位的。”

在AI招聘上，有公平算法嗎？

關(guān)于人工智能歧視的問(wèn)題已經(jīng)發(fā)生多起，比如谷歌的圖片軟件曾錯(cuò)將黑人標(biāo)記為“大猩猩”，微軟的Tay僅僅上線一天， 就變成了一個(gè)集反猶太人、性別歧視、種族歧視等于一身的“不良少女”等等。那么在未來(lái)，人工智能招聘是否可以實(shí)現(xiàn)真正的公平呢？

實(shí)際上AI可應(yīng)用于招聘的很多環(huán)節(jié)，比如篩選簡(jiǎn)歷，視頻面試，聊天面試等。篩選簡(jiǎn)歷是一個(gè)大工程，少則幾十份，多則幾百份。曾有一個(gè)做HR的朋友說(shuō)，有時(shí)候簡(jiǎn)歷實(shí)在太多就分成兩半，另一半直接扔垃圾桶……因此，這種重復(fù)且瑣碎的活最適合人工智能來(lái)干。但人工智能篩選簡(jiǎn)歷需要將公平量化，使公平被翻譯成可操作性的算法。

而利用人工智能聊天機(jī)器人，不管是視頻聊天還是其他形式的聊天，機(jī)器人都需要具備一定的分析能力，比如分析求職者的語(yǔ)調(diào)、眼神和回答的表情，來(lái)判斷求職者是否對(duì)工作富有熱情。但這同樣需要公平算法，畢竟智能相對(duì)論（aixdlun）分析師雷宇的瞇瞇眼被人認(rèn)定為打瞌睡也不是一兩次了。

那么公平可以被量化嗎？

2011年《科學(xué)》雜志上的一項(xiàng)研究顯示，情緒可以被數(shù)據(jù)化，來(lái)自世界上不同文化背景的人們每天、每周的心情都遵循著相似的模式。這項(xiàng)研究建立在兩年多來(lái)對(duì)84個(gè)國(guó)家240萬(wàn)人的5.09億條微博的數(shù)據(jù)分析上。

但是公平比情緒要抽象得多，而且如果人工智能需要研究公平算法，誰(shuí)來(lái)決定公平的考量因素呢？這似乎陷入了一個(gè)死循環(huán)。

我們很難將公平量化，也就不說(shuō)公平算法了?，F(xiàn)階段的人工智能招聘官一般用在低水平入門級(jí)別的工作招聘中，而稍微要求高一點(diǎn)的招聘，AI最多能起輔助作用，也就是科大訊飛所說(shuō)的“人機(jī)耦合”。

歧視無(wú)處不在，子子孫孫無(wú)窮盡也

在發(fā)生人工智能招聘歧視之后，亞馬遜拒絕對(duì)于該招聘引擎或面臨的挑戰(zhàn)作出評(píng)論，并表示自己一直致力于保證公司的員工多樣性和平等。

但智能相對(duì)論（aixdlun）分析師雷宇想要提醒大家的是，亞馬遜也致力于成為“地球上最以消費(fèi)者為中心的公司“，但有研究發(fā)現(xiàn)，亞馬遜的購(gòu)物推薦系統(tǒng)卻一直偏袒其自己及其合作伙伴的商品，即使其他賣家的商品的價(jià)格更低。而在購(gòu)物比價(jià)服務(wù)中，亞馬遜隱瞞了其自己以及其合作伙伴的商品的運(yùn)費(fèi)，導(dǎo)致消費(fèi)者不能得到一個(gè)公正的比價(jià)結(jié)果。

商家為了自身利益最大化，會(huì)有無(wú)數(shù)歧視的手段和理由。同樣，職場(chǎng)中的女性，會(huì)被無(wú)數(shù)看似正當(dāng)?shù)睦碛善缫?，未婚未孕？企業(yè)方擔(dān)心你休婚假產(chǎn)假，未婚已孕？企業(yè)方擔(dān)心你生小孩要耽誤一年，其中最可怕的就是大齡未婚的女青年了……

100多年過(guò)去了，上海已經(jīng)儼然成了一個(gè)像模像樣的大都市，但也成了這個(gè)時(shí)代歧視外地人的典型。

這樣看上海的我，又何嘗不是歧視呢。

【完】

智能相對(duì)論（微信id:aixdlun）：深挖人工智能這口井，評(píng)出咸淡，講出黑白，道出vb深淺。重點(diǎn)關(guān)注領(lǐng)域：AI+醫(yī)療、機(jī)器人、智能駕駛、AI+硬件、物聯(lián)網(wǎng)、AI+金融、AI+安全、AR/VR、開發(fā)者以及背后的芯片、算法、人機(jī)交互等。