亚洲avav,99精品人妻,制服丝袜在线云霸

打開人工智能的黑箱，IBM推出云工具檢測AI偏見

2018-09-21 08:52

IBM推出了一項軟件服務，可以掃描人工智能系統的工作情況，以便檢測偏見并為正在做出的自動決策提供解釋，一定程度的透明度可能是合規目的所必需的，而不僅僅是公司自己的盡職調查。

新的信任和透明度系統運行在IBM云上，并與從IBM作為各種流行的機器學習框架和AI構建環境所構建的模型一兼容，包括自己的Watson技術，以及Tensorflow、SparkML、AWS SageMaker和AzureML。

它表示，可以通過編程來定制服務以滿足特定的組織需求，以考慮“任何業務工作流程的獨特決策因素”。

完全自動化的SaaS解釋了決策并在運行時檢測AI模型中的偏見，這意味著它正在捕獲“發生時可能產生的不公平結果”。

它還會自動建議添加到模型中的數據，以幫助減少已檢測到的任何偏見。

人工智能決策的解釋包括顯示哪些因素加重了某個方向的決策、對建議的信心和信心背后的因素。

IBM還表示該軟件會記錄AI模型的準確性、性能和公平性，以及人工智能系統的系譜，這意味著它們可以“以客戶服務、監管或合規原因輕松跟蹤和召回”。

關于合規方面的一個例子，歐盟的GDPR隱私框架參考了自動決策，并且包括讓人們獲得有關算法在某些情況下如何工作的詳細解釋的權利，這意味著企業可能需要能夠審核他們的AI。

IBM AI掃描儀工具通過可視化儀表板提供自動決策的細分，這是一種減少對“專業AI技能”依賴的方法。

然而，它也打算讓自己的專業服務人員與企業合作使用新的軟件服務。因此，它既可以銷售人工智能，也可以解決人工智能的不完美問題，當企業試圖修復他們的AI時，專家可以幫助消除任何問題。這表明雖然AI確實會刪除一些工作，但自動化將忙于創建其他類型的工作。

IBM也不是第一家發現AI偏見商業機會的專業服務公司。幾個月前，埃森哲公開了一個公平的工具，用于識別和修復不公平AI。

因此，隨著對多個行業自動化的大力推動，設置和銷售服務以解決因增加AI的使用而出現的任何問題，看起來也相當龐大。

事實上，鼓勵更多企業對進入自動化更有信心。（在這方面，IBM引用了它所進行的研究，發現雖然82％的企業正在考慮人工智能部署，但60％擔心責任問題，63％缺乏內部人才來自信地管理技術。）

除了推出自己的付費AI審計工具之外，IBM表示，其研究部門將開放采購AI偏見檢測和緩解工具包，旨在鼓勵“圍繞解決AI中的偏見進行全球合作”。

“IBM引領行業建立信任和透明度原則，以開發新的AI技術。現在是時候將原則付諸于實踐了，”IBM認知解決方案高級副總裁David Kenny在一份聲明中表示。“我們正在為使用人工智能并面臨任何有缺陷的決策產生最大潛在風險的企業提供新的透明度和控制權。”

聲明： 本文系OFweek根據授權轉載自其它媒體或授權刊載，目的在于信息傳遞，并不代表本站贊同其觀點和對其真實性負責，如有新聞稿件和圖片作品的內容、版權以及其它問題的，請聯系我們。

共0條評論，0人參與

立即登錄即可訪問所有OFweek服務

忘記密碼

其他方式

請輸入評論內容...

請輸入評論/評論長度6~500個字

暫無評論

圖片新聞