人工智能也搞歧視！研究發現AI生成的藝術作品存在種族、性別偏見
WalkonNet 12月29日 消息:隨著人工智能技術研究不斷推薦，由算法生成的藝術作品的受歡迎程度也在持續增長。從創作繪畫到發明新的藝術風格，基於人工智能的生成藝術已經在一系列的應用中展示。
富士通（Fujitsu）研究人員在一項新研究中，調查瞭偏見是否會滲透到用於創造藝術的人工智能工具中。根據模型，他們聲稱目前的人工智能方法沒有考慮到社會經濟的影響，並表現出明顯的偏見。
據悉，研究人員調查瞭使用人工智能生成藝術的學術論文、在線平臺和應用程序，選擇瞭專註於模擬現有藝術風格的例子。為瞭調查偏見，他們考慮瞭最先進的人工智能系統在各種藝術風格方面的訓練成果，包括:
-
藝術運動（文藝復興時期的藝術、立體主義、未來主義、印象主義、表現主義）;
-
類型（風景、肖像、草圖和插圖）;
-
材料（木刻版畫、雕刻、油漆）;
-
藝術傢（柑橘獵人、瑪麗卡薩特、文森特·梵高、古斯塔夫·多爾等等）。
研究人員通過使用一個稱為“directed acrylic graphs”（dag）的因果模型分析表示，他們能夠識別人工智能生成藝術品的相關方面，以及這些不同方面是如何相互影響的。
在一個案例中，他們發現DeepArt（註:這是一個讓用戶按照其他藝術傢的風格重新繪制圖片的平臺），沒有考慮到將費爾南德·萊熱的立體派作品《螺旋槳》轉化為未來主義風格的運動。
其中有些偏見比其他問題更有害。GoArt是一個類似DeepArt的平臺，它將克萊曼婷·亨特的《黑矩陣女主角》的面部顏色從黑色改為紅色，將其轉化為表現主義風格。另一個AI生成的藝術工具，“Abacus”將拉斐爾和皮耶羅·迪·科西莫作品中留長發的年輕男性錯當成瞭女性。
研究人員將這些問題歸咎於用於訓練生成人工智能模型的數據集失衡，他們指出，這可能受到數據集管理員偏好的影響。例如，研究中提到的一款應用“人工智能肖像”（AI Portraits）使用瞭4.5萬幅文藝復興時期的肖像畫，其中大部分是白人。根據研究人員的說法，另一個潛在的偏差來源可能是標記過程中的不一致。不同的註釋者有不同的偏好、文化和信念，這些可能反映在它們創建的標簽中。
研究稱，“在藝術流派（例如大量的照片vs少量的雕塑）、藝術傢(例如大部分的歐洲藝術傢vs少數的本土藝術傢)、藝術運動(大量關於文藝復興和現代藝術運動的作品，而不是用其它作品)等方面可能存在不平衡。另外，描述不同種族、外貌等信息也沒有納入數據集，因此造成瞭代表性偏見。
研究人員警告說，錯誤地建模或忽視某些微妙的信息，生成藝術可能會助長對過去社會、文化和政治方面的錯誤認知，並阻礙瞭解重要歷史事件。