理想與現(xiàn)實(shí)的努力平衡: OpenAI開啟測(cè)試API試水商業(yè)化道路
理想與現(xiàn)實(shí)的道路
OpenAI創(chuàng)立之初擁有滿滿的情懷,但要持續(xù)進(jìn)行高質(zhì)量的研究并長(zhǎng)久運(yùn)營(yíng)下去需要平衡好理想與現(xiàn)實(shí)的微妙關(guān)系。為了回應(yīng)輿論對(duì)于這次商業(yè)化的嘗試,OpenAI在官網(wǎng)上從各個(gè)方面對(duì)這次的API發(fā)布進(jìn)行了回應(yīng):
1. 是什么原因促使OpenAI決定發(fā)布商業(yè)化產(chǎn)品?OpenAI的使命是確保人工智能造福人類,產(chǎn)品的商業(yè)化是確保實(shí)現(xiàn)目標(biāo)的有效手段之一。安全地開發(fā)一套強(qiáng)大的AI系統(tǒng)是十分困難的,OpenAI希望API的發(fā)布可以加強(qiáng)合作,攜手解決AI系統(tǒng)在真實(shí)世界中所面臨的挑戰(zhàn),同時(shí)也為未來的研究提供了更多方向性的指導(dǎo),更好地保證AI系統(tǒng)安全地服務(wù)全人類。
2. 為何選擇發(fā)布API而不是完整的開源模型?
主要有三個(gè)原因。首先,商業(yè)化可以覆蓋AI研究、安全性和政策倡導(dǎo)的成本開支。其次,API后面的模型往往十分龐大,需要耗費(fèi)大量的人力物力進(jìn)行訓(xùn)練開發(fā)和部署,個(gè)人或者中小企業(yè)無法負(fù)擔(dān)如此龐大的研發(fā)與運(yùn)營(yíng)成本。所以API的發(fā)布為中小企業(yè)和開發(fā)者提供了接入強(qiáng)大AI系統(tǒng)的能力。此外,API方式可以對(duì)技術(shù)的濫用進(jìn)行更快的應(yīng)對(duì)。一方面有限制的逐步開放API可以在一定程度上控制對(duì)于技術(shù)的濫用,也可以有效管控;另一方面也不像模型會(huì)面臨未知的下游應(yīng)用開發(fā)風(fēng)險(xiǎn),如果開源的模型被惡意使用將很難有效阻止。
3. 針對(duì)有可能的API濫用,OpenAI將要如何解決這一問題?一方面將阻斷有害身心健康的API調(diào)用,包含但不限于騷擾、欺詐、垃圾郵件、激進(jìn)言論和病毒營(yíng)銷等,并在運(yùn)營(yíng)中進(jìn)一步優(yōu)化和細(xì)化對(duì)于API的管理。同時(shí)也將引導(dǎo)研究人員加強(qiáng)對(duì)于模型潛在濫用的研究,通過學(xué)術(shù)服務(wù)合作與第三方研究機(jī)構(gòu)緊密合作。目前通過審核來開放的beta測(cè)試API也將進(jìn)一步減小API被濫用的風(fēng)險(xiǎn),并幫助OpenAI更深入地理解API的內(nèi)涵和局限性。
4. 如何緩和API后臺(tái)模型所包含的有害的偏見和負(fù)面影響?
對(duì)于減少像有害偏見這樣負(fù)面影響,是目前對(duì)于整個(gè)工業(yè)界都是十分重要但困難的問題。事實(shí)上API后臺(tái)所支撐的GPT-3模型在某些情況下也會(huì)顯示出偏見,所以為了解決這一問題,我們將在以下三個(gè)方面進(jìn)行努力:
一方面給出使用指南,引導(dǎo)用戶學(xué)習(xí)并減小這種偏見的影響;另一方面與用戶緊密合作來理解具體業(yè)務(wù)場(chǎng)景中的問題,并開發(fā)工具來標(biāo)記和干預(yù)有害偏見的表現(xiàn);最后引導(dǎo)更多研究人員對(duì)底層的機(jī)理和理論進(jìn)行研究,更廣泛深入地理解模型的表達(dá)和公平性的影響,協(xié)助用戶解決問題。在這一過程中對(duì)API的優(yōu)劣進(jìn)行更為深入地理解,并不斷改進(jìn)工具和工作流程來最大程度地減小負(fù)面影響。
最后,讓我們?cè)賮砜悼祷贏PI的有趣應(yīng)用吧:
智能客服
▼
文本生成
▼
文本補(bǔ)全
▼
語言翻譯
▼

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
圖片新聞
最新活動(dòng)更多
-
10月23日火熱報(bào)名中>> 2025是德科技創(chuàng)新技術(shù)峰會(huì)
-
10月23日立即報(bào)名>> Works With 開發(fā)者大會(huì)深圳站
-
10月24日立即參評(píng)>> 【評(píng)選】維科杯·OFweek 2025(第十屆)物聯(lián)網(wǎng)行業(yè)年度評(píng)選
-
11月27日立即報(bào)名>> 【工程師系列】汽車電子技術(shù)在線大會(huì)
-
12月18日立即報(bào)名>> 【線下會(huì)議】OFweek 2025(第十屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)
-
精彩回顧立即查看>> 【限時(shí)福利】TE 2025國(guó)際物聯(lián)網(wǎng)展·深圳站
推薦專題