程式設計師“道德準則”將出爐,但使用者資料採集無法停止

類別: IT

科技行業正進行自我反思。就連祖克伯和庫克都在公開談論軟體和演算法在我們生活中所帶來的負面影響。雖然已經有越來越多的人向一些業內人士遊說,想要阻止他們或試圖制定任何行業規則,但這些業內人士正制定自我管理的準則。有一個想法值得人們探討:掌控程式的程式設計師和資料科學家是否應該立下一個數字的希波克拉底誓言,作為行業道德的要求和行為準則?

圖:希波克拉底誓言

上個月,微軟釋出了一份關於人工智慧對社會的影響的報告。該報告認為,約束程式設計人員,像醫生們一樣也立下“不傷害他人”的承諾,“這是有意義的”。週二在舊金山,數十名來自科技公司、政府和非營利組織的資料科學家開始為他們的職業起草一份道德規範。

這次會議的普遍感覺是,是時候讓那些在統計分析方面有才能的人意識到他們自身的力量,並將其用於實現更大的利益。曾在奧巴馬時期任美國首席資料科學家的DJ·帕蒂爾告訴記者:“我們必須讓從事技術工作的人們說‘等一下,這是不對的。'”

帕蒂爾啟動了這個活動,稱之為“資料交換”(Data For Good Exchange)。與會人士包括微軟、拼趣(Pinterest)和谷歌的員工。

帕蒂爾設想的是讓被道德準則約束的資料科學家們來反對企業和機構的安排,以防止有違行業道德準則的情況出現。這一願景吸引了一些專門從事資料分析的人。來自企業軟體初創公司“資料科學”的戴夫·古德史密斯週二寫到:“作為一門學科,我們正處於起步階段,我們比任何人都更能通過人工智慧領域的機遇和挑戰來引導社會。”

其他人則有些猶疑。市場營銷公司Valassis的高階資料科學家Schaun Wheeler通過Slack和一個實時視訊流也觀看了週二的會議。這一會議開始之前他就有所懷疑,完會後疑慮更甚。他說,這份草案看起來像是一份沒有人會反對的一般性原則的列表,而且正應用於一個缺乏相關權力機構或法規來規定實施這些原則的行業。儘管為資料科學家提供的正式培訓專案越來越多,但包括Wheeler在內的許多人都是自學成才。

週二的討論結果便是一份原則清單,且未來幾周內將對這些原則進行評估和釋出,以獲得更廣泛的反饋。其中包括“肯定會有偏見。衡量它。為它做出計劃”,“尊重人類尊嚴”和“運用道德想象力。”該專案的組織者希望能看到10萬人簽署最終版本的誓言。

Wheeler說:“科技行業最近受到了批評,我認為這是理所當然的,因為它天真地認為它可以修復這個世界。你若是認為可以通過某種道德準則來解決整個複雜的問題,比如資料洩露,這就是狂妄自大。”

週二會議的一個辯論主題是,一個不具約束力的自願準則是否真的能保護那些敢於在工作中提出道德問題的資料科學家。另一個主題則是,這是否會產生很大的影響。

美國電話電報公司的資料科學家裡希拉·賈拉罕說,他對於起草一份道德承諾的所作出的種種努力持支援的態度。他描述了在他和一個同事拒絕加入一個有他們認為沒有行業道德的公司參與的專案之後,他們的願望得到了尊重。但是調換了一些工作人員之後,專案還是繼續進行。

現有證據表明,科技公司通常只有在意識到道德問題會對其資產負債表構成直接威脅的時候,才會將其放在心上。祖克伯可能對其公司控制資訊傳播的方面表現出了悔意,但這也是因為Facebook遭受了政治壓力,因其在俄羅斯干涉2016年美國大選中所扮演的角色。

通過為他人提供平臺而賺錢的科技公司可以有更多的理由不去規範道德。任何在搭建自己的平臺過程中能嚇跑客戶的東西都是有風險的。

微軟關於人工智慧和社會的宣言討論了程式設計師應當作出的“希波克拉底誓言”,以及對人工智慧新用途的倫理審查過程。但微軟總裁布拉德·史密斯表示,微軟不會指望用微軟的雲服務構建人工智慧系統的使用者也一定要達到同樣的道德標準。他說:“這是一個非常重要的問題,我們自己都還沒有回答出來。我們創造了微軟文書處理軟體,並且知道人們可以用它來寫好的東西或者是可怕的內容。”

隱私權激進分子阿拉爾·巴爾幹認為,本週起草的這一份道德規範實際上可能會加劇技術所造成的社會危害。他擔心,公司會把它作為一種美德的標誌,但他們還是會像從前一樣繼續經營。他說:“我們應該探索的是,我們如何才能阻止這種因利益而進行的大規模的人類資料採集工作。”他指出,歐盟的《全面資料保護條例》(General Data Protection Regulation)將於今年生效,這是防止演算法的壞處的更好模式。

帕蒂爾曾經是LinkedIn的首席科學家,但他有點像巴爾幹,對科技公司是否有能力仔細思考自己的個人資料驅動產品的影響持懷疑態度。他說:“我不認為我們現在的社會可以依賴於這一法規,因為我們在社交平臺看到的和科技公司的行為都是由利潤驅動的。”

從長遠來看,帕蒂爾說,他對道德規範草案的希望之一是,它有助於激勵政策制定者制定更堅定、但也是經過充分考慮的限制標準。他說:“我希望看到,週二的會議能夠開始定義真正的行業內政策。”

來源:網易科技

程式設計師“道德準則”將出爐,但使用者資料採集無法停止原文請看這裡