2015年2月，谷歌公司發(fā)布了其原本內部使用的人工智能算法 TensorFlow工具——此舉徹底改變了世界各地人工智能的研究與開發(fā)基調。借用谷歌公司首席執(zhí)行官的說法，這意味著全球開發(fā)者將免費以開放、易用的方式利用 TensorFlow 工具進行創(chuàng)造。人工智能技術將由學術領域正式入駐用戶個人筆記本電腦。

關于 TensorFlow

  TensorFlow™ 是一個采用數(shù)據(jù)流圖（data flow graphs），用于數(shù)值計算的開源軟件庫。節(jié)點（Nodes）在圖中表示數(shù)學操作，圖中的線（edges）則表示在節(jié)點間相互聯(lián)系的多維數(shù)據(jù)數(shù)組，即張量（tensor）。它靈活的架構讓你可以在多種平臺上展開計算，例如臺式計算機中的一個或多個CPU（或GPU），服務器，移動設備等等。TensorFlow 最初由Google大腦小組（隸屬于Google機器智能研究機構）的研究員和工程師們開發(fā)出來，用于機器學習和深度神經(jīng)網(wǎng)絡方面的研究，但這個系統(tǒng)的通用性使其也可廣泛用于其他計算領域。

TensorFlow工具野蠻生長

  然而，TensorFlow 的“普及”的力量強大到徹底超出谷歌公司的控制范圍。TensorFlow 工具公開發(fā)布以來，僅僅兩年多時間，盡管仍然由學術界與硅谷主導著軟件領域的發(fā)展方向，但這種力量平衡正在發(fā)生變化，其中的催化劑正是 deepfakes——某匿名的 Reddit 用戶。

你看的片兒都是誰的臉？

  deepfakes 利用 AI 軟件成功實現(xiàn)了將任意面部圖像以幾乎無縫化方式自動拼接至視頻當中。deepfakes 利用深度學習技術能夠把任何人的面孔（例如電影明星）放在色情女演員身上。

  deepfakes 被披露后又建立了自己的 subreddit，并迅速積累了超過9.1萬用戶。另一位名為 deepfakeapp 的 Reddit 用戶則發(fā)布了一款名為 FakeApp 的工具，其允許任何人下載 AI 軟件并在正確的硬件上自行使用。截至目前，Reddit 已經(jīng)禁用了該子社區(qū)，并表示其中違反了網(wǎng)站提出了強制性色情控制政策。

  FPC廠根據(jù) FakeApp 發(fā)布的用戶指南，該軟件以 TensorFlow 為基礎。谷歌公司的員工利用 TensorFlow 也打造出過類似的解決方案，只是設置與主題略有不同，谷歌用于從零開始訓練算法生成圖像。此外，用戶還可以利用其發(fā)揮更為自由的想象空間，例如將尼古拉斯·凱奇放在一大堆其它電影當中。有91000人訂閱了deepfakes的子社區(qū)，單純只是為了過把眼癮。

AI 技術的負面領域應用

  雖然 TensorFlow 屬于開源項目，但正如潛在的癌癥檢測算法一樣，F(xiàn)akeApp 代表著開源領域的黑暗面。谷歌（以及微軟、Amazon乃至Facebook）放棄了對這股巨大技術力量的控制權，且承諾不對相關使用行為作出任何約束。任何人都能夠下載 TensorFlow 這個AI 軟件，并利用其制作自己的作品。

偽造政治演講

  這意味著從偽造政治演講（配合現(xiàn)有聲音模擬AI）到生成報復性偽造色情內容，人工智能正以人們難以預見的方式發(fā)揮著極為嚴重的負面作用。

  由于軟件能夠在本地計算機上運行，因此大型科技公司只能對這種遠離中央服務器的使用行為熟視無睹。“開源代碼”決定了企業(yè)將無法干涉人們的具體使用方法。AI 由創(chuàng)造性工具轉化為潛在的傷害性武器。

  而且各大企業(yè)也沒有動機對此作出改變：自由軟件對其來講是種好事，因為其允許更多人參與到 AI 開發(fā)工作中來。目前每一家大型科技企業(yè)都在盡可能多地網(wǎng)羅 AI 人才，而涌入這一領域的人員自然越多越好。此外，更多人員的加入還能夠帶來更多新產(chǎn)品代碼以供項目開發(fā)，而企業(yè)之外的人員可以人中尋找并修復錯誤，學生則能夠在本科與博士課程當中利用該軟件進行教學，此外其還將幫助剛剛加入公司的新人們快速上手開發(fā)工作。

機器學習“開放”是必然趨勢

  AT&T 公司先進技術副總裁、前機器學習研究員馬辛·吉爾伯特表示，“過去五年當中，機器學習領域確實出現(xiàn)了重大突破，但真正的重大突破并不在于算法，其在本質上與上世紀七十、八十乃至九十年代的算法并無區(qū)別。真正的突破在于開源浪潮的普及。開源降低了準入門檻，使得相關技術不再是擁有雄厚財力的IBM、谷歌以及Facebook們的專有物。”

  當然，開源軟件也使AI開發(fā)當中的道德問題變得更為復雜。谷歌公司目前提供的工具并不能創(chuàng)造出天網(wǎng)或者其它超級智能成果，但其仍然有可能造成實際存在的危害。谷歌與微軟等也在持續(xù)發(fā)布開源人工智能框架，并表示人工智能在倫理層面不會造成危害的聲明。企業(yè)內的在職科學家們已經(jīng)簽署了協(xié)議，并成立了專門研究這一主題的研究小組。然而，這些企業(yè)不會為下載其自由軟件的用戶提供任何指導或者授權。TensorFlow網(wǎng)站上展示了軟件的運行說明，但卻沒有提供任何與道德倫理相關、或者要求用戶確保數(shù)據(jù)集不存在偏見的免責聲明。

  幾個月前，在采訪微軟公司人工智能副總裁哈利·沙姆時，他表示目前還不太清楚該公司要如何引導那些使用開源軟件與付費開發(fā)者工具的用戶創(chuàng)建出符合道德標準的機器學習系統(tǒng)。他表示，“這真的非常困難，我認為目前還不存在簡單的解決方案。我們正逐漸意識到，在設計機器學習算法的過程中，我們需要努力找到其中的盲區(qū)。”

“自我封閉”不是AI濫用的解決之道

  谷歌公司并沒有就類似的問題作出回應。

  將 AI 軟件移出開源陣營同樣不是個理想的解決辦法。如果選擇自我封閉，那將很難了解這些科技企業(yè)如何開發(fā)自己的人工智能算法。目前的研究成果在 ArXiv 等網(wǎng)站上免費發(fā)布，原始代碼則在 GitHub 上直接共享，這意味著記者、學者乃至倫理學家都能夠尋找其中的潛在缺陷并要求對方作出調整。此外，也有很多人正在利用這些AI工具包進行生產(chǎn)性應用——例如在應用程序當中實現(xiàn)標準圖像識別等。

  即將大量出現(xiàn)的其它偽造視頻將通過Facebook以及Twitte等主流平臺與世人見面，并在政治宣傳當中找到新的發(fā)展空間——這絕不是什么遙不可及的妄想。盡管人工智能研究人員一直希望能夠在大型技術企業(yè)的職責范圍之外為此找到潛在的解決方案，但這樣的嘗試恐怕無法獲得成功——畢竟人工智能工具的民主化進程已經(jīng)無法阻擋。

  由于這類核心技術的開發(fā)者無需為自己創(chuàng)造的內容負責，因此很可能落在視頻與圖像共享平臺之上。例如，Gfycat刪除了其網(wǎng)站上托管的全部Deepfakes GIF動圖。Reddit已經(jīng)關閉了該子社區(qū)。PornHub在采訪中表示，其將刪除那些經(jīng)過換臉的色情視頻。然而，在主要社交平臺范圍之外，仍有deepfakes.club這類網(wǎng)站的存在，且很難加以監(jiān)管。