但現(xiàn)在如果對(duì)巴西布拉德斯科銀行（Bradesco bank）的虛擬助理使用這種語言，對(duì)方可能會(huì)更堅(jiān)定地回答：“這些話不能對(duì)我或任何人說。”
她還會(huì)語氣更強(qiáng)硬地說：“這對(duì)你來說可能是個(gè)笑話，但對(duì)我來說，這是暴力。”
去年，布拉德斯科銀行在其人工智能系統(tǒng)上發(fā)現(xiàn)了9.5萬條包含虐待或性騷擾的信息。該銀行之后采取了行動(dòng)。
他們的指控團(tuán)隊(duì)整理了這些有冒犯性語言，結(jié)果發(fā)現(xiàn)，最溫和的是要求對(duì)方裸體。但也有些太過粗俗的語言，公司不愿透露。
該公司執(zhí)行董事佩蒂科夫（Glaucimar Peticov）告訴BBC：“言語非常粗魯，我沒法重復(fù)給你聽。”
還不清楚為何有人對(duì)虛擬助理使用這樣的語言，但佩蒂科夫稱，性愛信息“完全不該出現(xiàn)”，“這毫無疑問，就是一種騷擾“。
為了應(yīng)對(duì)這類攻擊，Bia的軟件腳本得到了更新，迫使客戶用更尊重的語言來稱呼她，才能繼續(xù)工作。
佩蒂科夫表示，新的回應(yīng)“不那么順從和被動(dòng)”，是為了“教育”客戶，鼓勵(lì)他們“反思”性別歧視態(tài)度。
布拉德斯科銀行在電視廣告中宣傳了公司的舉動(dòng)，當(dāng)機(jī)器人改變態(tài)度時(shí)，女演員看起來更有力量。
其他巴西大型企業(yè)也承諾效仿這一舉動(dòng)，包括化妝品公司、制造業(yè)，以及公用事業(yè)和服務(wù)提供商。
陸，是零售巨頭雜志Luiza的語音助理，她不僅能對(duì)口頭冒犯做出堅(jiān)定回答，而且安裝了“緊急按鈕”，讓女性在遇到家庭暴力時(shí)謹(jǐn)慎地提醒當(dāng)局。
在真人團(tuán)隊(duì)的幫助下，她成了社交媒體上有影響力的語音助理，擁有數(shù)百萬粉絲，經(jīng)常和他們談?wù)撔詣e問題。這個(gè)團(tuán)隊(duì)負(fù)責(zé)管理她的社交媒體互動(dòng)。
圖像來源，MAGALU
零售巨頭雜志Luiza的語音助理陸（Lu）
但不是所有人都認(rèn)為根據(jù)這個(gè)原因調(diào)整人工智能系統(tǒng)是有意義的，因?yàn)榕按龑?duì)象不是有感情的真人。
“我們?yōu)槭裁匆垓v一個(gè)非人類的語音助手呢？因?yàn)檫@個(gè)問題反映了現(xiàn)實(shí)生活，”聯(lián)合國(guó)教科文組織巴西分部的社會(huì)科學(xué)協(xié)調(diào)員伊恩（Fábio Eon）解釋。
伊恩表示，言語虐待和騷擾的背后是更大的問題。
去年，巴西報(bào)告了10.5萬起針對(duì)婦女的暴力案件。由于仍有很多未報(bào)告案件，實(shí)際數(shù)字可能要高得多。
伊恩認(rèn)為，現(xiàn)實(shí)世界和數(shù)字空間在人類行為方式上有所關(guān)聯(lián)。
“從你在網(wǎng)上接受這些行為的那一刻起，這些行為就會(huì)在現(xiàn)實(shí)生活中被復(fù)制。”
女性機(jī)器人臉與人臉對(duì)比
聯(lián)合國(guó)教科文組織2019年的一份報(bào)告批評(píng)了制造數(shù)字助理的公司，指責(zé)它們強(qiáng)化了性別刻板印象。在多數(shù)情況下，這些數(shù)字助理都是女性的聲音。
該組織表示，蘋果的Siri和亞馬遜的Alexa等產(chǎn)品似乎“能夠容忍男性的性挑逗，偶爾也會(huì)受到誘惑”，并稱它們“未能鼓勵(lì)或樹立關(guān)于性愛或贊同性愛的健康溝通，更不用說堅(jiān)持了”。
這兩家全球科技巨頭都采取了不對(duì)抗策略，并隨后對(duì)Siri和Alexa做了更新�，F(xiàn)在Siri會(huì)簡(jiǎn)單回答關(guān)于性愛的評(píng)論：“我不會(huì)回應(yīng)這個(gè)問題”。
在此之前，她對(duì)性侮辱的回答是：“如果我能做到，我會(huì)臉紅的。”
“你能想象這樣的回答在現(xiàn)實(shí)生活中有多離奇嗎？”伊恩問道。
伊恩警告稱，盡管采取了一些改進(jìn)措施，但對(duì)人工智能的偏見依然存在。
他指出，Siri和Alexa（女性名字）可以幫我們做瑣碎的事，比如播放音樂或打開燈，而巴西法院的人工智能系統(tǒng)能篩選成千上萬份文件，他的名字叫維克多（Victor，男性名字）。
一些公司正在考慮在系統(tǒng)中使用無性別聲音，以此來解決爭(zhēng)議。
但佩蒂科夫表示，人工智能之所以使用女聲，是因?yàn)樗齻兊囊舾吆鸵粽{(diào)變化能為客戶創(chuàng)造更舒適的環(huán)境。因此，布拉德斯科銀行沒有計(jì)劃取代Bia，或者假裝問題不存在，她解釋。
“但是習(xí)慣需要改變。這些互動(dòng)行動(dòng)實(shí)際反應(yīng)了社會(huì)的現(xiàn)實(shí)�，F(xiàn)在我們已經(jīng)發(fā)現(xiàn)了這個(gè)問題，決心采取行動(dòng)。”
從長(zhǎng)遠(yuǎn)來看，公司正在考慮當(dāng)客戶虐待和性騷擾人類虛擬助理時(shí)該怎么做。
2017年，韓國(guó)GS加德士（GSCaltex）能源公司發(fā)起運(yùn)動(dòng)，幫助減少針對(duì)呼叫中心工作人員的虐待行為，上了頭條新聞。
在顧客的電話轉(zhuǎn)給助理接聽之前，顧客會(huì)聽到一段員工家人的錄音，這段錄音提醒，電話那頭的人是有生命、有感情的人。
錄音中有個(gè)男孩說：“我的媽媽是我在這個(gè)世界上最愛的人，她很快就會(huì)幫助你。”另一個(gè)男性的聲音說：“我的善良、勤勞的女兒很快就會(huì)上線。”
發(fā)起這項(xiàng)活動(dòng)的營(yíng)銷機(jī)構(gòu)艾得夸互動(dòng)（AdquaInteractive）稱，GS加德士的員工后來報(bào)告稱，54%的人覺得壓力減輕了，25%的人說他們感到更受尊重了。
專注于數(shù)字教育的DQ研究所的首席執(zhí)行官派克（Yuhyun Park）表示，在互動(dòng)變得更加非人類化的世界里，人們?cè)絹碓叫枰庾R(shí)到這一點(diǎn)。
“公民需要更加文明的行為。當(dāng)我們不能面對(duì)面見面時(shí)，就會(huì)遇到這種騷擾問題。即使在人工智能出現(xiàn)之前，人類也不是很友好地對(duì)待彼此。
“我們是社會(huì)的一部分，即使是與人工智能對(duì)話，也在共同構(gòu)建整個(gè)社會(huì)體系，如果不文明行事，就會(huì)產(chǎn)生不好的影響。”
