全球首屆AI選美大賽,白人成最大贏家

類別: 新奇

全球首屆AI選美大賽,白人成最大贏家

最近著名的「青春實驗室」發起了一場叫做Beauty.ai的網路選美大賽,號稱裁判都是人工智慧,比賽吸引了60萬參賽者。AI會通過演算法觀察皺紋、臉部對稱性、痘痘數量、種族和感知年齡。不過,種族似乎成為了最大的決定因素,44位獲勝者中,36人都是白人。

全球首屆AI選美大賽,白人成最大贏家
全球首屆AI選美大賽,白人成最大贏家

當裁判的是一種深度神經網路,一種可以從巨量資料中自動學習的人工智慧。比方說,在比賽中,演算法會被展示數百萬張有皺紋或者沒皺紋的人的照片。它會慢慢學習不同臉部皺紋的相似之處,並且在新照片中識別它們。但是如果演算法主要看的是白人照片,遇到黑人臉時,其準確性就會下降。(其他面部特徵也一樣,是用另外一套演算法識別的。)

兩組獲勝者,根據年齡和性別劃分,大家隨意感受下畫風:
全球首屆AI選美大賽,白人成最大贏家
全球首屆AI選美大賽,白人成最大贏家

雖然75%的參賽者都是白人和歐洲人後裔,但是從理論上說這並不會造成什麼問題。因為對機器而言,他們並不是人類,而是一堆畫素的集合而已。當畫素沒有不符合預期模式,它們就被認為是輸入錯誤或者被演算法誤判。換句話說,照片裡的人美不美是通過一個客觀標準判斷的,但是這個客觀標準來自於白人照片的集合。

“看起來顏色確實會影響機器的判斷,”Beauty.ai的首席科技官Alex Zhavoronkov說。“對於一些人群而言,資料集缺少足夠的樣本訓練深度神經網路。”

解決之道就是更好的資料,如果演算法看過了更多樣化的人群,它們就能更好識別他們。

同樣的問題也發生在谷歌的DeepDream實驗中。谷歌的研究者給演算法程式設計,讓它們處理建築、風景和名畫的圖片,並總結出一個模式。結果卻是一片不規則的碎片,夾雜著狗臉。原來演算法是通過開源資料庫ImageNe訓練的,裡面有著大量狗的照片,所以AI就很容易在一堆圖片中一眼看到狗。

這一問題困擾過谷歌和惠普,並且仍將困擾各種各樣的AI。

“如果一個系統所接受的照片訓練裡,絕大部分都是白人,它就會難以辨別非白人的臉,”微軟研究院首席研究員Kate Crawford說。“所以,包容性很重要,從設計者到公司所有者,再到各種倫理視角。否則,我們造出來的AI只會折射出一個狹隘的社會,帶有各種陳舊偏見和刻板影響。”

Beauty.ai會在10月份再舉行一場AI選美大賽,雖然Zhavoronkov說公眾這次會看到更好的資料,但是我們仍不清楚下次大賽是否會使用更好的資料集。

全球首屆AI選美大賽,白人成最大贏家原文請看這裡