ChatGPT檢視原始碼討論檢視歷史

來自 網絡 的圖片

ChatGPT是一款人工智能技術驅動的自然語言處理工具，於2022年11月30日由人工智能研究實驗室OpenAI發布，作為全新聊天機器人模型，它能夠通過學習和理解人類的語言來進行對話，還能根據聊天的上下文進行互動，真正像人類一樣來聊天交流，甚至能完成撰寫郵件、視頻腳本、文案、翻譯、代碼等任務。

簡介

OpenAI是一家人工智能研究和部署公司，使命是確保人工通用智能造福全人類。OpenAI的使命是確保人工通用智能（AGI）——指的是在具有經濟價值的工作中超越人類的高度自治系統——造福全人類。OpenAI將試圖直接建設安全和有益的AGI，但如果工作幫助他人實現這一結果，OpenAI也將認為我們的使命已經完成。OpenAI已經訓練了一個名為ChatGPT的模型，它以對話的方式進行交互。對話形式使ChatGPT能夠回答後續問題，承認錯誤，質疑不正確的前提，並拒絕不適當的請求。ChatGPT是說明書，它被訓練成遵循提示中的指令並提供詳細的響應。

ChatGPT有時會寫出聽起來合理但不正確或無意義的答案。解決這個問題是具有挑戰性的，因為：（1）在RL訓練期間，目前沒有真實的來源；（2）訓練模型更加謹慎導致它拒絕它能夠正確回答的問題；以及（3）監督訓練誤導模型，因為理想答案取決於模型知道什麼，而不是人類示威者所知道的。

ChatGPT對輸入措辭的調整或多次嘗試相同的提示很敏感。例如，給定一個問題的一種措辭，模型可以聲稱不知道答案，但給定一個輕微的措辭，可以正確地回答。理想情況下，當用戶提供一個模糊的查詢時，模型會問一些澄清性的問題。相反，我們當前的模型通常猜測用戶的意圖。

今天ChatGPT的研究發布是OpenAI的新一步迭代部署越來越安全和有用的人工智能系統。從早期模型的部署中吸取的許多經驗教訓為此次發布的安全緩解措施提供了信息，包括通過使用人類反饋強化學習實現的有害和不真實輸出的大幅減少。