AI可解釋性的研究

正如前文所示，該系統通過掃描器網絡、診斷器網絡、聚合器網絡，對AI輔助診斷的可解釋性進行了探索，最終會產生說明文字同ROI同步輸出。

可解釋性圖示

如上圖，a、b顯示的為全片腫瘤檢測結果，c、d、e則為生成的“特征感知注意圖”，對診斷細節進行描述。我們可以看到，針對每一張切片，系統在判讀后，除了常規地將ROI區域框選出來，還針對不同區域生成了解釋性文字。

其中，不同特征的文字被使用不同顏色加以區分，而該描述所對應的ROI，都被加以相同顏色的框表示，便于病理醫生查看時一一對應。

該系統描述了觀察到的一定數量的細胞特征以及特征感知注意圖，注意圖對網絡觀察到的視覺信息的類型給出了強有力的解釋（圖c－e）。實際上，注意圖包含了框選區域中每一個像素的權重，用以確定不同像素對于給定的特征觀察的重要程度，但輸出的內容卻并不是令人費解的數值，而是類似于病理醫生的判讀依據。

這樣專業化的文字表述加強了AI分析病理切片的可信度，當人類醫生與機器診斷結果不符時，醫生們也能夠更容易地對比自己與機器的診斷意見到底在何處有所區別，了解產生區別的原因，在很大程度上能夠提高診斷準確度。

系統網絡組件的評估

在算法結構方面，算法的各部分性能在完成后均被予以驗證。

首先，研究人員評估腫瘤和非腫瘤圖像的s－net的腫瘤檢測召回率（非腫瘤圖像表示內部沒有突出腫瘤的裁剪的滑動組織區域）。s－net達到94％的高真陽性（檢測到的腫瘤像素數／總注釋腫瘤像素）并同時維持95．3％的陰性召回率。

其次，研究人員使用了兩個評估指標驗證了生成的診斷描述的質量：雙語評估Understudy（BLEU）和基于共識的圖像描述評估（CIDEr）。而這些驗證結果顯示，該算法已經具備了一定的優越性。

此項實驗突破了AI病理三類證審批的關鍵難點

囿于其決策流程的不可解釋性，“深度學習”一直被遵循循證醫學指南的臨床醫生拒之門外，成為了制約醫學影像人工智能發展，特別是獲得三類證審批的關鍵。

而本次實驗則為人工智能的審批提供新的思路：雖然現階段的人工智能仍不具備推理能力，但我們能將醫生的推理步驟模塊化，從而模擬推理的過程。此外，本次實驗中的文字匹配過程是按照WHO標準并具有嚴格依據的，這與許多基于多樣本深度學習生成的勾畫不同，實驗的每一個步驟都可由AI提供決策依據，并非單純概率云下的黑箱運算。

楊林教授現任職于迪英加CEO，這是迪英加科技在三類證申報過程中的一步堅實工作，用于解決CFDA三類證申報中廣泛要求的可解釋行提供了關鍵的核心技術解決方案。

在采訪過程之中，楊林教授也對本次實驗的不足之處進行了總結。首先，由于時間的原因，樣本的選擇檢測本身具有一定的封閉性，隨著持續數據收集的廣度和深度的提升，論文中的工作也一定會有改進之處。

其次，推理流程的劃分是否足夠細致，以及推理過程是否存在偶然性可以進一步論證。

最后，這項研究沒有控制參與病理醫師的疲勞程度，這可能是影響AUC的獨立因素，需要進一步研究這一系統對不同疲勞水平醫生的有效性。

總的來說，無論是人工智能技術，還是本次實驗的病理本身，我們都能看到很多突破的可能。目前的人工智能影像產品仍聚集于放射科，當他們嘗試進一步進入臨床相關科室時，這項技術同樣需要新的標準對其進行驗證。

此外，AI于病理的運用也遠不局限于切片識別，機體組織樣本中內部特征的量化分析與臨床評價；細胞和動物組織樣本的量化分析與藥效關系；細胞識別與分選；特殊染色結果的量化分析和臨床治療與預后也均有AI介入研究。病理于AI是一片看不見的深海。

文 ｜ 趙泓維

網站、公眾號等轉載請聯系授權