科技界的“歷史遺留問題”：人工智能與極右翼勢力

全文共2037字，預計學習時長7分鐘

圖源：wsj

最近，OneZero的一篇報道表明，監控公司Banjo的創始人兼首席執行官達米安·巴頓曾是3K黨南方騎士的成員，他因1990年在猶太教堂開槍而被指控為仇恨犯罪。

消息一經發出，猶他州總檢察長辦公室中止了與該公司簽署的價值至少75萬美元的合同。報道還稱公司與該州公共安全部門價值2080萬美元的合同也作廢了。

就在幾周前，《赫芬頓郵報》的記者盧克·奧布萊恩報道稱，Clearview AI的創始人Cam-HoanTon-That與極右翼極端分子有聯系，其包括布萊巴特新聞網的前任編輯查克·約翰遜、披薩門陰謀論大師邁克·賽爾諾維奇和新納粹黑客巨魔安德魯‘韋夫’奧恩海默。

有關證據表明，在開發ClearviewAI軟件的過程中，Ton-That就與約翰遜等人有合作了。

這兩大著名AI公司負責人與極右翼組織聯系的消息備受關注，令人震驚。它揭示了極右勢力與AI驅動的監測公司之間有著深度的交往和廣泛的合作，且這些公司正在與執法機構以及市、州政府簽約。

這也引發了一些亟需討論的重要問題：這種右翼和反動政治的持續壓力目前在科技行業是如何體現的？這些AI創始人對正在構建推廣的技術持什么態度？最重要的是——我們對此應該做些什么？

圖源：resonate

這些公司能訪問大量的公眾活動數據。例如，猶他州允許Banjo訪問其交通監控錄像、閉路電視（CCTV）以及911系統的實時數據流，公司將這些數據流與社交媒體以及其它敏感數據源相結合。正如該公司所描述的，它會梳理這些信息的來源，以在現實世界中“監測異常”。

許多AI系統會重現種族偏見的社會不平等現象。很多預警系統都使用“臟”數據：筆者在AI NowInstitute工作的同事證明，在許多司法管轄區中，執法機構都在使用有缺陷的、帶有種族偏見的、有時是非法警務實踐期間產生的數據來訓練系統。

毋庸置疑，這意味著種族偏見是“預防犯罪”分析系統的通病：學者薩拉·布萊恩對預測性警務的研究表明，這些數據實踐重現了既有的不平等模式，加劇了對有色人種社區的過度治理和監管。

但這個案例中的情況更甚。ClearviewAI似乎在設計時就明確考慮到了種族主義用例：據《赫芬頓郵報》報道，查克·約翰遜在2017年1月發帖稱，他參與了“為驅逐小隊建立算法以識別所有非法移 民”的工作，并吹噓其正在開發的面部識別軟件的功能。

圖源：artificialintelligence-news

Clearview AI已經簽訂了與美國移 民和海關執法局（ICE）的付費合同，使用預測分析和面部識別軟件來加速美國境內非法移 民 的拘留和驅逐，即使現在正處于疫情大流行時期。

他們很快就能知道數百萬位民眾日常生活更私密的細節：該公司正在推進與州和聯邦機構的合同簽訂，為冠狀病毒接觸者的追蹤提供面部識別工具。

很難想象到底需要多強的保護措施，才能幫助他們的接觸者追蹤工作不受ICE的影響？多虧新聞報道，在他們幫助“驅逐小隊”的消息傳出來之前，我們就已經知道了ClearviewAI的活動充斥著暴力。

更可拍的事實是，ClearviewAI和Banjo的問題只是冰山一角。我們需要長期觀察那些科技行業成員對極右翼的癡迷，并將那些創造了AI系統并從中獲利的人的政治和網絡作為分析的核心。我們必須做好準備，你不會喜歡他們挖掘出來的東西。

硅谷的建立者威廉·肖克利，1956年時由于發明晶體管而獲得諾貝爾物理獎，但其最大的熱情不在構建半導體，而在優生學。他花費數十年來宣揚關于智商差異的種族主義理論，并支持白人至上主義。

肖克利引導了一場以失敗而告終的運動，他曾試圖說服斯坦福大學的教授加入他的行列，包括AI領域的創始人之一，約翰·麥卡錫。肖克利并不是個案，多年以后，優生學研究的支持者杰弗里·愛潑斯坦，成為了麻省理工學院媒體實驗室的主要資助者，為AI研究員馬文·明斯基的工作提供了10萬美元的資金。

麥卡錫在2004年的一篇文章中斷言，從生理角度來看，男性比女性更擅長科學與數學。只有通過技術增強，女性才能與男性平起平坐。其觀點與詹姆斯·達莫爾不謀而合。

達莫爾在谷歌發布的一份反多元化備忘錄得到了另類右翼成員的支持，其中概述道：“由于生理原因，女性和男性的偏好和能力分布不同，……這些差異或許解釋了，為什么在科技領域和領導人中少有女性。”支持這些看法的人不在少數。

圖源：Sexism

雖然這兩種情況存有不同，但愈加明顯的是，在人工智能領域的有話語權的人士中，持續存在著右翼力量和顯而易見的種族與性別歧視政治。

雖然人們早已忽略了這些“歷史遺留問題”，但其影響范圍卻越來越大：今天的行業多樣性已經不如19世紀60年代，而技術又對種族主義和偏見假設進行編碼，使它們更難識別和減輕的同時，加劇了現有的歧視形式。

更令人難以接受的是，正是這些支持種族主義的公司所創造的技術，正在慢慢滲透我們生活的每一個細節當中：健康、安全、保障、娛樂……在不知不覺中，歧視已經發生了，并且仍在進行腐蝕著我們。這值得警惕！

https://www.toutiao.com/i6832837193900229123/