文 | 周鑫雨

編輯 | 蘇建勛

北美時(shí)間2023年4月25日，一度陷入安全爭議風(fēng)波的OpenAI給用戶和業(yè)界投喂了一顆定心丸：推出新的ChatGPT數(shù)據(jù)管理方法，并在未來幾個(gè)月內(nèi)推出遵循OpenAI API數(shù)據(jù)使用政策的企業(yè)版ChatGPT Business。

2023年3月29日，一封名為《Pause Giant AI Experiments: An Open Letter（暫停巨型AI實(shí)驗(yàn)：一封公開信）》的公開信又將孕育出ChatGPT和GPT-4的OpenAI推向AI安全隱患的風(fēng)口浪尖。

這份聯(lián)名信呼吁：所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的 AI 系統(tǒng)，為期至少6個(gè)月。截至發(fā)稿前，已有近3萬人簽下了自己的名字。

4月13日，OpenAI創(chuàng)始人Sam Altman在麻省理工學(xué)院視頻電話會(huì)中，對(duì)聯(lián)名信做出了回應(yīng)。在贊同“隨著它（AI）的能力變得越來越強(qiáng)，安全標(biāo)準(zhǔn)必須提高”的同時(shí)，他也指出聯(lián)名信仍未解釋的關(guān)鍵問題：“這封聯(lián)名信遺漏了大部分有關(guān)我們需要暫停的技術(shù)細(xì)節(jié)?！?/p>

而此次OpenAI在數(shù)據(jù)安全上的兩個(gè)大動(dòng)作，則是用行動(dòng)給予了回應(yīng)。

新的ChatGPT數(shù)據(jù)管理方法顯示，從北美時(shí)間4月25日起，所有用戶都能使用ChatGPT新增的關(guān)閉聊天記錄功能。

當(dāng)聊天記錄功能關(guān)閉時(shí)，用戶在ChatGPT上進(jìn)行的對(duì)話不會(huì)被用于模型訓(xùn)練，也不會(huì)出現(xiàn)在用戶的使用歷史記錄中。相對(duì)地，除卻監(jiān)控到濫用情況時(shí)的審核，OpenAI會(huì)把禁用記錄后的新對(duì)話保留30天，然后永久刪除。

在未來幾個(gè)月即將上線的企業(yè)版ChatGPT Business上，OpenAI許諾會(huì)嚴(yán)格遵守API數(shù)據(jù)使用政策。值得注意的是，這一數(shù)據(jù)政策進(jìn)針對(duì)API消費(fèi)者，不適用于ChatGPT或者DALL·E等模型的非API消費(fèi)者。

所謂的“API數(shù)據(jù)”指的是API在處理用戶通過文件端點(diǎn)提交的訓(xùn)練數(shù)據(jù)等過程中產(chǎn)生的數(shù)據(jù)。根據(jù)API數(shù)據(jù)使用政策，OpenAI在默認(rèn)情況下不會(huì)使用API數(shù)據(jù)來訓(xùn)練OpenAI自己的模型或者改進(jìn)產(chǎn)品服務(wù)。用戶提交的數(shù)據(jù)僅用于用戶模型的微調(diào)。為了監(jiān)控模型濫用和誤用等情況，OpenAI會(huì)將API數(shù)據(jù)保留30天。

與此同時(shí)，用戶也具有共享數(shù)據(jù)的權(quán)利，被允許共享的數(shù)據(jù)將用于模型的迭代。若是用戶沒有選擇關(guān)閉數(shù)據(jù)共享，在2023年3月1日前的API數(shù)據(jù)則存在已經(jīng)被用于模型迭代的可能。

“它（GPT-4）也許不是功能最強(qiáng)大的模型，但肯定是目前未知最安全、最對(duì)齊的模型?！泵鎸?duì)聯(lián)名信，OpenAI創(chuàng)始人Sam Altman公開表態(tài)，“隨著模型的能力越來越強(qiáng)，與之對(duì)應(yīng)的安全措施確實(shí)需要增加?！?/p>

延伸閱讀：

暫緩大模型：擔(dān)憂的科學(xué)家，失控的AI | Future

36kr制圖