部署辯論家項目的基礎設施

為了保證項目進展的彈性，“辯論家”有兩個同時運行的完整運行時基礎設施。

現場辯論系統使用了IBM云和以色列海法實驗室中運行的基礎設施的混合體；

備份實例完全部署在IBM云中。

IBM研究院的運行時“辯論家”系統由以下部分組成：

主服務器是一個雙插槽的IBM／聯想系統System x3650 M5服務器。該服務器內置兩個14核英特爾Xeon E5－2600 v4處理器和768 GB系統內存。一個實例部署在本地，一個實例部署在IBM  Cloud的達拉斯數據中心。

一個Elasticsearch集群。該集群包含四臺裸機，每臺機器具有64 GB內存、12個內核和兩個960 GB的SSD磁盤。該集群同樣部署了兩個實例，一個部署在達拉斯的IBM Cloud中，一個本地部署在以色列海法。

一個Cassandra數據庫集群。該集群包含四個Linux VM，每個VM具有32 GB內存和4個內核。該集群同樣部署了兩個實例：一個在達拉斯的IBM Cloud中，另一個本地部署在海法。

這些服務器使用IBM Cloud網絡基礎架構以10 Gb／秒的速度聯網到一起。對于舊金山的現場辯論，IBM僅使用了10 Mb／秒的互聯網連接將其現場控制筆記本電腦連接到IBM Cloud和海法的IBM研究實驗室。

IBM Watson基于商業云的語音到文本服務和文本到語音服務。使用IBM Cloud Kubernetes群集上的女性語音運行文本到語音服務。

IBM Cloud上的Kubernetes集群上運行了其他服務，用于處理投票、事件流管理和后臺屏幕呈現。

IBM為“辯論家”項目的舞臺展示打造了一個自助服務終端，該中端只有兩個扁平的屏幕，用于顯示它的頭像。

IBM沒有在“辯論家”系統中使用GPU或者FPGA這些計算加速器。

IBM指出，“辯論家”項目的開發團隊優化了其運行時模型，以滿足辯論對手開場演講和反駁發言時的一到兩分鐘的時間延遲。

令我們印象深刻的是，IBM的“辯論家”運行時系統部署在舊的主流服務器上，卻依然表現良好。如果該系統使用當今最先進的服務器和存儲系統的話，它的尺寸可能會顯著降低，整個系統可能用6U機架高度就能部署完畢。

實時性挑戰

“辯論家”不是那種蹦出一句短句快速響應的會話系統。它也沒有設計成那種開始時幾乎沒有任何背景信息、需要在對話運行時構建上下文的對話系統，相反，每次辯論開始時，都已經以“決議”的形式給出了背景。這種辯論性質的會話由一系列短語和句子組成。“辯論家”要想參與活躍且響應迅速的對話，它的響應延遲應該控制在一到兩秒的量級。

“辯論家”現在只注意捕捉對手的麥克風信息，它并不會傾聽和觀察觀眾的反饋。在現場辯論中，人類辯手會觀察觀眾以評估觀眾對自己的論述的實時反映。請注意，是這些觀眾給辯手打分，辯手需要給這些觀眾留下深刻印象，而不是主持人。原則上，我們相信“辯論家”的繼任者會增加一個全新的模型集合，以在視覺上評估觀眾（點頭、無聊、興奮等）的反應，以及在聽覺上評估觀眾（拍手、喘氣、輕笑等）的反應。但是，IBM最初并沒有規劃這一些，因為辯論并不是IBM在商業上所關注的點。沒有人類觀眾參加的辯論賽寡淡無味，所以添加上這些反饋能力能夠使得“辯論家”在演講中改變論述的方向。此外，辯論家這一類的系統必須提前創建幾種論述備選，以根據觀眾的反應動態地選擇。

對于通過智能手機、網絡攝像頭等進行的群組發言和一對一聊天來說，解決掉觀察觀眾反應問題將使得會話系統看起來更加人性化。21世紀AI的圖靈測試應該更多地考慮人性化的影響。
拓展人類的知識

IBM的“辯論家”團隊開發了20個基準數據集，所有的數據集都根據Creative Commons License（CC BY－SA 3．0）或GNU免費文檔許可（GFDL）發布，包括：
19，276對維基百科概念；

5000個注釋了情感的習語；

帶注釋的3，000個句子；

有關55個主題的2，394個標簽聲明；

由專業辯手錄制的60篇關于爭議話題的演講。

IBM Research發表了32篇論文，描述了其在設計和訓練Project Debater方面的大部分工作，IBM還在偏置檢測方面做了大量工作，包括檢測數據集中的偏差和檢測訓練模型中的偏差。 它還發布了一些描述性的文本片段，這些內容可以回溯到它的研究論文里面。

不過，分享研究論文和數據集是一回事，分享訓練模型就是另外一回事了。如上所述，IBM研究院僅僅披露了其硬件的一些高層級的詳細信息，但是并沒有詳細介紹軟件框架、運行時模型集合中部署的特定訓練模型。IBM發布了訓練數據集，但是并沒有公布特定模型的訓練代碼，也沒有給出和其訓練模型有關的任何權重數字。我們只能對其運行時軟件架構有一個粗略的了解。當然，IBM已經明確表示過，當該技術商業化后將發布更多細節信息。

考慮到IBM正在通過其Crowd產品將“辯論家”技術商業化到其Speech服務中，所以它至今沒有給出關于模型訓練的詳細信息也在情理之中。

這和OpenAI的套路實際上很相似。OpenAI也發布了不少博客和有據可查的論文，描述了帶有15億個參數的GPT－2“Transformer”模型背后的多任務學習算法，但是OpenAI也沒有發布數據集、訓練代碼或者GPT－2模型的權重，只是發布了一些較小、功能較少的訓練模型。

OpenAI在決定不發布模型時表示了這些模型可能會被濫用的可能性。但是，在它宣布不發布模型一個月后，它就宣布將通過一家剝離出來的公司將這些模型商業變現。

看來，人工智能剛開始都是瞄準一些有趣的事情和游戲，然后再用它做一些真正有利可圖的事情。

監管AI

AI取得了難以置信的快速進步，但是人們還沒有建立合適的文化反對人工智能的濫用。最近的SXSW互動會議上就有一個“智能未來”的議題，追蹤了許多會議上凸顯的對AI和道德的爭論。

我們于今年3月11日參加了由歐盟贊助的小組會議：“該上法學院的算法們：人工智能的倫理”。該會議討論的主題之一就是歐盟委員會即將出臺的“值得信賴的AI應該遵守的道德準則”。該指南的最終版本將于4月9號或之前提交給歐盟委員會。

不過，在會議小組討論之后的問答環節中，有一位記者斷言人工智能將會成為一種過于危險的技術，并且聲稱“所有人工智能研究工作都應該停止”。這種論調本身并不令人震驚，真正讓人震驚的是居然有大約三分之一的觀眾對此表示認同。

SXSW上關注的技術驅動的社會性問題通常領先大眾一兩年。目前SXSW對人工智能的道德倫理的強烈興趣表明，未來幾年內這一問題將進入社會大眾的視野。我們的行業需要變得更加透明，以贏得更多公民和消費者的信任。

結論

IBM在2月11日舉行的Think活動中進行了“辯論家”最后一次演示，“辯論家”輸掉了這場辯論。但是，在辯論進程的過程中，IBM研究院通過“辯論家”向世人展示了一個可以可信地進行對上下文敏感、可達人類辯手水平的辯論系統。

IBM設計的“辯論家”和人類辯手展開了有意義的辯論，但是人類辯手和觀眾都清楚地知道它就是一個人工智能。在這個系統設計中，IBM研究院向論述中添加了一些笑話，并為之提供了根據紐約一位女演員構建的聲音。不過，IBM研究院做了一些處理，使之成為一個明顯的合成聲音，但是該聲音聽起來并不單調，表現力還不錯，這對于辯論來說很重要。

“辯論家”的開場比我們預期的要好得多，它挑戰了我們對于自然語言處理（NLP）當前能力的假設。不過，在反駁和總結性陳詞中，它沒有分辨出人類辯手論點中的幾個細微差別，也沒有表現出對人類觀眾的同情心。正是在理解能力和同理心上面的差距使得“辯論家”進入了不可思議的“恐怖谷”。

顯然，無論從哪個方面來看，創建一個可以參與這種開放性主題辯論的人工智能都是一個巨大的挑戰。

當然，有人可能會爭辯說，創建一個可以在隨機主題上與人類辯手展開辯論（無論是贏了還是輸了）的人工智能就等于通過了圖靈測試。圖靈測試是什么？“通過圖靈測試”意味著什么。21世紀的AI的圖靈測試也需要現代化，簡單地說，我們對會話系統的人工智能測試需要更多地涵蓋人文環境。

雖然IBM的“辯論家”令人印象深刻，但是，它想在未來的幾年內走過“恐怖谷”依然非常困難。不過，IBM證明了此事可行，就已經贏得了戰斗的一半。IBM在舊硬件上拼湊實現了對“辯論家”的訓練是一項驚人的研發壯舉。“辯論家”能夠使用更新的硬件進行更快的訓練和部署呢？現在還很難說，但是我們相信，其它人可能會在IBM的啟發下，針對人工智能會話系統投入更多資源，我們將看到這個領域的快速發展。

可以肯定的是，會話系統將變得更加出色，更加復雜，這將影響未來的工作機會和社會結構，現在是時候對自然語言處理的未來進行認真討論了。