?
  • 資訊
  • News
  • 行業資訊
  • IndustryNews
  • 白色機器人可能未來會在外國被告涉嫌種族歧視!

    行業資訊 | 時間: 2019-08-21 | 中國機器人網 昏昏 | 編譯:阿芬|瀏覽量:342

      前置性研究一直是社會學家們致力于去做的事,我們總在提中國機器人研究與國外的差距,其實這不單單在于技術,也在長遠性的對其可能造成的社會影響,和可能造成倫理道德上問題的思考。
     
      近日,新西蘭人機界面技術實驗室的研究人員進行了一項“關于機器人和種族主義”的研究,這項研究報告歷經坎坷最后由坎特伯雷大學出版,研究表明:人類認為長得像人的機器人也有種族之分,因此,他們對白色和黑色機器人也具有種族偏見。
     

     
      顏色歧視的發現
     
      不論是電影還是現實生活中的機器人,我們都會發現,機器人大多是白色的。例如威爾·史密斯的電影《我,機器人》、電影《機器人總動員》里的Eve、本田的機器人Asimo、優必選的機器人Walker、波士頓動力的機器人Atlas,甚至是NASA的機器人Valkyrie,這些全部都是有著白色的外觀。而一些現實生活中的人形機器人,也是仿照著白人的膚色,比如以奧黛麗·赫本為原型的首個獲得公民身份的機器人索菲亞。
     
      而根據一項新的研究,這種白色機器人盛行的原因可能是種族主義。研究人員發現,這些顏色可能會觸發社會信號,決定人類對其他人或者機器人的反應和行為。
     
      首席研究員Christoph Bartneck向美國有線電視新聞網解釋道:“對黑色機器人的偏見是對非裔美國人的偏見的結果。令人驚訝的是,以前從未與機器人有過互動行為的人也對機器人表現出了種族偏見。”
     
      研究人員認為這個問題需要盡快解決。這個研究表明:假如機器人成為老師、朋友或者照護者,那么這些角色一旦被種族化的白色機器人占據,這將會是一個很嚴重的問題。很顯然,研究中實驗使用的是機器人,但是它們具有和人類一樣的四肢和頭部,膚色則是白色和黑色。
     

     
      而在搜索引擎上搜索“機器人”這個詞的相關圖片,你也不太會看到別的顏色,就像研究中指出的那樣。研究人員認為,白人機器人的比例過高可能會對其他種族的認知造成傷害。Bartneck指出,機器人設計師是來自世界各地的,但他們仍然會最先選擇設計白色外觀的機器人。
     
      Bartneck告訴《The Next Web》:“人形機器人應該代表人類的多樣性。想象一下全是白色皮膚的芭比娃娃;想象一下在非洲或者印度工作的機器人全是白色的;再設想一下接管涉及權威工作的機器人也是白色的。很顯然,這會引起對帝國主義和白人霸權的擔憂。機器人不僅僅是機器,它們還代表了人類。”
     
      在第二項研究中,HIT Lab NZ團隊增加了淺棕色的機器人,他們發現,隨著種族多樣性的增加,參與者對機器人的種族偏見逐漸消失。這可能意味著機器人的多樣化可能會導致人類減少對機器人的種族偏見。
     
      Bartneck告訴美國有線電視新聞網:“就像芭比娃娃有不同的膚色一樣,我們也希望機器人不僅僅是白色的。”“我們希望本研究能夠鼓勵機器人設計師們創造出代表他們群體多元化特征的機器人,沒有必要把所有機器人都設計成白色。”Bartneck如是說。
     
      但不少人或許會對這樣的研究嗤之以鼻。畢竟,如果我們詢問機器人制造公司,為什么要將他們的機器人設定為白色,他們十有八九會告訴你:因為白色跟各種家庭裝飾都很百搭呀!
     
      實際上,Bartneck的文章在投稿期間就收到了不小的阻力,這篇提交給HRI會議的論文經歷了空前的審查過程。論文大約有5000個詞,但收到的評論就有大約有6000個詞。在會議計劃委員會開會期間,大家對文章進行了詳細的討論,共有9名評審員被要求對該研究進行評估。他們的文章被讀者反復審視,有些人指責作者在聳人聽聞。
     
      人工智能的種族歧視
     
      此前《每日郵報》曾報道,來自英國和美國的計算機科學和心理學專家表示,經過復制、識別和學習其它機器人的行為,自主機器人竟然可以產生偏見,有些算法甚至產生了種族歧視和性別歧視,也證明了其并非無的放矢。
     
      偏見和歧視是人類社會所特有的高級認知,它需要人類意識和思維的支持才會產生。為了證明人工智能可以產生偏見,英美兩國科學家也曾進行了一次計算機博弈模擬實驗。實驗中,一臺超級計算機控制上千個個體進行博弈,并分析每個個體的給出的決策。實驗結果表明,絕大多數個體都將資源分享給自己所在的群體,并且這一決策很快就被其它的個體學習運用。
     

     
      科研人員還在另一項關于性別的研究中發現,face++、微軟等眾多科技公司推出的人臉識別服務中存在性別歧視和種族歧視。實驗數據表明,對于黑人女性,微軟在21%的情況下無法識別,而face++無法識別的概率更是高達35%,此外,這些系統普遍對白人男性表現的更好。
     
      因此,報道認為,機器人制造和編程設計的人類程序員,在潛意識中帶有歧視意識,從而表現在研究和編程過程中,這導致的直接結果就是對于白人機器人的重視程度更高,并且這一偏重也導致了機器人呈現的對于部分人類呈現的不友好行為。
     
      人工智能是計算機科學的一個分支,研究的主要目標是讓機器完成一些需要人類智慧才能解決的復雜問題,這就需要人工智能對人類的意識和思維過程進行模擬。報道表示,正因如此,一些科學家才反對人工智能的研究,他們擔心人工智能某一天可能會進化出完全的自主意識,帶上某部分歧視,甚至對人類產生敵意,同時由人類設計的機器人,如果不經控制,可能最后會成為毀滅人類的最佳工具。
     
      研究與分析
     
      《科技縱覽》雜志(IEEE Spectrum)中有這樣一段記載:Christoph Bartneck使用了“射手偏見”框架(shooter bias framework)進行試驗。在射手偏見研究中,參與者被賦予警察的角色,當面對人們手持槍械或其他友好物體的圖像時,他必須決定是否射擊。
     
      圖像僅顯示一瞬間,研究中的參與者來不及做出合理的思考,他們必須在不到一秒的時間內采取行動。若參與者在決定開槍時對黑色機器人(對比白色機器人)開槍更加快速,在決定對沒有武器的機器人不開槍時對白色機器人(對比黑色機器人)下決定更快速,我們就會認為這位參與者對機器人存在種族偏見。
     
      而“射手偏見”研究顯示,無論圖像中出現的是人類還是機器人,與武裝的白人相比,參與者更快地射擊武裝的黑人;同時更快地避免射擊手無寸鐵的白人,而不是同樣解除武裝的黑人。這些發現說明了射手偏見既存在于人類之中,同時也存在于機器人之中。這種偏見明確表現了對黑人的種族歧視,更是將這種歧視自動延伸至種族化為黑人的機器人。
     

     
      Christoph Bartneck表示:“我們在調查中直接要求人們選擇“該機器人是什么種族”時,只有11%的被調查者選擇了“不適用”選項。我們的隱性衡量標準證明了人們確實種族化機器人并據此調整他們的行為。我們調查的參與者顯示他們存在對機器人的種族偏見。”
     
      為什么重視顏色研究?
     
      Christoph Bartneck認為,目前世界上許多工程師都忙于實現機器人基本功能,如行走與在所處環境中移動,這是他們最為關注的問題,以至于他們沒有那么重視研究所產生的社會影響。
     
      大部分時候,機器人的設計是由內而外的,意味著各功能部件先被搭建并測試,最后再添加一個外殼包裝。至于這層包裝將如何影響人類使用者,或更寬泛地說,機器人整體將如何被其使用者所感知,絕大多數時候只有事后才會被想到。
     
      因此,幾乎沒有機器人創造者思考過種族歧視問題。多年來,人-機器人交互(HRI)社區的成員們在嘗試更深理解人類與機器人是如何交互的。我們試圖幫助機器人創造者將機器人設計得與社會更加融合。種族歧視對人類與人類社會整體都正在造成大量傷害。
     
      今天,種族歧視依然真實地存在,黑人平權運動更加證明了這個問題的重要性與緊急性。與此同時,我們將推出社交機器人,目的是與人類互動,融入人類社會。這些機器人將成為未來的護工,教育人員與陪伴者。
     
      Christoph Bartneck表示,現在幾乎沒有非白人外表的擬人機器人。大多數主流社交機器人研究平臺,如Nao、Pepper與PR2,機器人均使用白色材料,并且看起來是白人。
     

     
      可以預見到,這種社交機器人種族多元性的匱乏會導致一系列問題以及其他領域中種族多元性的匱乏。我們根據各社會分類下的社會觀念導致的刻板印象去評價他人,歧視經常是社會刻板印象的一種體現。
     
      結語
     
      “我們希望我們的研究能促使人類進行反思,是什么社會與歷史因素導致了來自如此多元化的種族群體的工程師們幾乎只設計生產很容易被當做白人的機器人,他們為何尚未意識到這一點。”Christoph Bartneck說道,“我們相信我們的發現將會幫助社交機器人設計上的多元化,這樣一來這項前景光明的科技不會受到種族偏見的影響。中東樣貌的機器人的出現以及日本慣以設計亞洲人樣貌的機器人都是這個方向上的重要進步,尤其是因為這些機器人并非被刻意設計成豐富種族多元化的形象,而是機器人設計上的自然產物。”

    聲明:凡資訊來源注明為其他媒體來源的信息,均為轉載自其他媒體,并不代表本網站贊同其觀點,也不代表本網站對其真實性負責。

    您若對該文章內容有任何疑問或質疑,請立即與中國機器人網(www.ynumm.club)聯系,本網站將迅速給您回應并做處理。

    電話:021-39553798-8007

    相關閱讀:

    熱門資訊

    • 下一個十年,是數據化的十年! 資深智能...
    • 人類有史以來第一批活體機器人!美國國...
    • 線上線下全覆蓋 HRG多款工業教育產品亮...
    • 厲害了,中國這個2721.84億的公司搞出全...
    • 機器人賦能產業,智贏未來!2019年第九...
    • 【盛會】機器人“半壁江山”齊聚蕪湖 共...
    • 技能人員水平評價由誰認定?李克強稱這...
    • “智敬”未來!第七屆中國國際機器人高...
    • CSG科大智能亮相AMTS2018上海國際汽車制...
    • 性愛機器人竟如此栩栩如生?
    ?