在线观看亚洲天堂,jizz日本版,亚洲在线一区二区

理想與現實的努力平衡: OpenAI開啟測試API試水商業化道路

2020-06-22 09:29

理想與現實的道路

OpenAI創立之初擁有滿滿的情懷，但要持續進行高質量的研究并長久運營下去需要平衡好理想與現實的微妙關系。為了回應輿論對于這次商業化的嘗試，OpenAI在官網上從各個方面對這次的API發布進行了回應：

1．是什么原因促使OpenAI決定發布商業化產品？OpenAI的使命是確保人工智能造福人類，產品的商業化是確保實現目標的有效手段之一。安全地開發一套強大的AI系統是十分困難的，OpenAI希望API的發布可以加強合作，攜手解決AI系統在真實世界中所面臨的挑戰，同時也為未來的研究提供了更多方向性的指導，更好地保證AI系統安全地服務全人類。

2．為何選擇發布API而不是完整的開源模型？

主要有三個原因。首先，商業化可以覆蓋AI研究、安全性和政策倡導的成本開支。其次，API后面的模型往往十分龐大，需要耗費大量的人力物力進行訓練開發和部署，個人或者中小企業無法負擔如此龐大的研發與運營成本。所以API的發布為中小企業和開發者提供了接入強大AI系統的能力。此外，API方式可以對技術的濫用進行更快的應對。一方面有限制的逐步開放API可以在一定程度上控制對于技術的濫用，也可以有效管控；另一方面也不像模型會面臨未知的下游應用開發風險，如果開源的模型被惡意使用將很難有效阻止。

3．針對有可能的API濫用，OpenAI將要如何解決這一問題？一方面將阻斷有害身心健康的API調用，包含但不限于騷擾、欺詐、垃圾郵件、激進言論和病毒營銷等，并在運營中進一步優化和細化對于API的管理。同時也將引導研究人員加強對于模型潛在濫用的研究，通過學術服務合作與第三方研究機構緊密合作。目前通過審核來開放的beta測試API也將進一步減小API被濫用的風險，并幫助OpenAI更深入地理解API的內涵和局限性。

4．如何緩和API后臺模型所包含的有害的偏見和負面影響？

對于減少像有害偏見這樣負面影響，是目前對于整個工業界都是十分重要但困難的問題。事實上API后臺所支撐的GPT－3模型在某些情況下也會顯示出偏見，所以為了解決這一問題，我們將在以下三個方面進行努力：

一方面給出使用指南，引導用戶學習并減小這種偏見的影響；另一方面與用戶緊密合作來理解具體業務場景中的問題，并開發工具來標記和干預有害偏見的表現；最后引導更多研究人員對底層的機理和理論進行研究，更廣泛深入地理解模型的表達和公平性的影響，協助用戶解決問題。在這一過程中對API的優劣進行更為深入地理解，并不斷改進工具和工作流程來最大程度地減小負面影響。

最后，讓我們再來康康基于API的有趣應用吧：

智能客服

▼