0800-000-964

OpenAI啟動一系列計畫改進ChatGPT的偏見與預期外行為

取自：iThome

【狂賀】jumpAD 傑愛得資訊有限公司，榮獲國際期刊《MarTech Outlook》評選為2024年亞太區年度AI人工智慧廣告科技公司雜誌封面人物。
【狂賀】jumpAD 傑愛得資訊有限公司，榮獲國際期刊《APAC CIO Outlook》評選為2023年亞太區20大傑出AI人工智慧解決方案供應商。

您好，我們是傑愛得資訊，歡迎來到我們的媒體聯播網

AI 研究室 | 智庫

OpenAI計畫讓用戶自定義模型行為，甚至運用公眾意見影響系統規則，以進一步改善ChatGPT的行為

文/李建興 | 2023-02-21發表

OpenAI

由於ChatGPT帶來的風潮，各大科技公司無不爭相在自己的產品，加入大型語言模型，由於這類語言模型技術的既有限制，使得用戶容易獲得具偏見、冒犯性，甚至是與事實不符的輸出，現在OpenAI開始著手一系列改進，試圖解決當前ChatGPT存在的系統限制。

下方繼續閱讀

jAD Ads 聯播廣告

曝光6,789/日成本100/月

下文請點廣告解鎖

投放Google多媒體聯播網廣告(點此)arrow_downward，包含轉換代碼安裝

※ 如果看到投資類型廣告，請再三評估風險！

繼續閱讀keyboard_double_arrow_down

官方解釋，ChatGPT是一個大型神經網路，模型行為學習自廣泛且龐大的資料，並非是由明確的程式碼寫死。ChatGPT模型經過預訓練和微調兩階段，在預訓練階段，模型會從網際網路資料集中，學習預測語句下一個單詞的方法，但是在這個學習的過程，同時也學習了網際網路中帶有偏見言論。

因此在微調階段，OpenAI需要用較小的資料集微調ChatGPT，以規範模型的行為，這些小資料集由人工審查者根據OpenAI指引創建而成。

不過，由於OpenAI無法預測所有用戶的可能輸入，因此僅在指引中概述幾個類別，人工審查者根據這些指引類別，審查和評分一系列輸入可能的模型輸出，之後再由模型總結這些審查者的回饋，套用在給用戶的回應中。

即便經過微調階段，ChatGPT仍然無法解決偏見問題，官方提到，雖然他們的指引裡面，明確規範審查者不應該偏袒任何政治團體，但在當前的微調階段，仍可能在過程中加入偏見。

目前OpenAI解決偏見的方法，是盡可能在指引中，向審查者清楚解釋偏見的潛在陷阱和挑戰，以及具有爭議的人物和主題，並且使微調過程變成一個反饋循環，每周透過會議來解決遇到的問題，並且一再澄清指引，透過迭代讓模型表現越來越好。

除了偏見之外，ChatGPT還存在多個問題，像是拒絕不應該拒絕的請求，或是無法在應該拒絕的時候拒絕請求，甚至會編造內容，OpenAI承諾會繼續改進這些ChatGPT的預設行為。而由於每個用戶對於人工智慧的期待都不同，因此OpenAI正在改進ChatGPT，將讓用戶有更多自定義空間。

另外，OpenAI也希望讓使用者甚至是公眾，能夠影響ChatGPT的系統規則，避免言論權力過度集中的問題，最終使得ChatGPT能夠廣納觀點，但OpenAI坦言，這項功能有其挑戰性，目前先以紅隊的形式來檢視ChatGPT，不過他們正在建立機制，希望以公眾意見教育人工智慧。

點此投放Google多媒體聯播網廣告

※ 如果看到投資類型廣告，請再三評估風險！

點 AI 專欄推薦

post_add 資料來源：iThome

回智庫 apartment | 超玩媒

Ads by jAD

網站+主機+網域+廣告，找我們一次解決

點AI》用 Google AI 打選戰，落實政黨數位轉型

Google Gemini AI：傑愛得資訊（jumpAD）的 AI 創新度

Google Gemini AI：傑愛得資訊（jumpAD）近況

傑愛得資訊領先業界

國際認證獎項報導

我們是業界少數同時具備數位行銷、系統開發、雲端服務的數位整合專業團隊

─ 2021.05

【2024年亞太區年度AI人工智慧廣告科技公司】封面人物
榮獲 MarTech Outlook 美國期刊評選

【2023年亞太區20大傑出AI人工智慧解決方案服務商】
榮獲 APAC CIO Outlook 美國矽谷期刊評選

【2024年值得關注的30大領先企業】
榮獲 CIO Bulletin 美國期刊評選

取得AI廣告追蹤技術國家發明專利

ISO/IEC 27001:2022 Lead Auditor 資安管理系統主導稽核員

explore 發展趨勢

bookmark_star 查看資歷

【2024年亞太區年度AI廣告科技公司 AI Advertising Technology Company of the Year in APAC 2024】封面人物，榮獲MarTech Outlook期刊評選
【2024年全球十大最具影響力的領導人 Top 10 Best Global Influential Leaders of 2024】榮獲Business Frontier雜誌評選
【2024年值得關注的30大領先企業 30 Leading Companies to Watch 2024】榮獲CIO Bulletin期刊評選
【2023年最具啟發性的企業領袖總裁】榮獲CXO Outlook美國期刊評選
【2023年亞太區20大傑出AI人工智慧供應商】榮獲《APAC CIO Outlook》矽谷科技期刊評選
Google Ads 全台灣第一個金融業智慧出價2.0成功案例。
多年數位行銷經驗，為Google Partners徽章認證經銷，代理Google, Facebook, Dcard, Microsoft, Yahoo apollo，並提供旗下jAD Ads聯播網廣告。
擁有AI數位廣告技術專利。全台灣第一家擁有專利的廣告代理商。
全台獨家推出 Google語音助理專用廣告。
2018年台灣地區Google Ads帳戶優化品質第一。
每月代客操盤數位廣告投放金額達800萬台幣。Google Ads代理累計超過4億台幣+。
回饋Google官方協助Google Ads廣告系統優化與無效點擊分析。
參與過多次台灣地區選舉網路廣告，2018年為候選人輔選衝出第一高票，當選率100%。
曾為某家無品牌客戶三年內在網路上陌生開發一億業績。
曾為企業旗下三網站在Yahoo!奇摩搜尋引擎優化SEO，自然搜尋關鍵字排名前三名(第一名~三)。
旗下經營自媒體與電商。
曾研發Yahoo!關鍵字廣告惡意點擊反擊程式。
曾為客戶品牌行銷，透過搜尋行銷SEM讓關鍵字在產業TA形成Google熱搜。
領先業界研發網站人潮之網頁定點閱讀率分析。
領先業界研發網站全通路人潮分析系統，直接於訂單中分析客戶來訪的廣告來源(搜尋/FB/LINE/WeChat)、客戶搜尋的關鍵字、客戶點閱的廣告文案。
為全端網站設計團隊，並具有多年網路行銷經驗。
擔任企業網路行銷顧問講師，專門破解同業暗黑行銷術。提供網醫數位行銷診斷服務

立即聯絡

Google數位行銷服務關鍵字搜尋聯播網廣告 GDN 多媒體聯播網廣告 YouTube 影片聯播網廣告 Performance Max PMax最高成效廣告購物廣告智慧型廣告探索廣告應用程式廣告 motion_sensor_active 轉換追蹤規劃設定服務類別 AI 網路廣告 AI 網站系統 AI 雲端主機 AI 人工智慧 AI SEO優化站內搜尋 medication 網醫診斷 AI客服 LINE id: @vhp8681s [email protected] 傑愛得資訊 Jump AD 聯絡： 0800-000-964 WeChat id: godzilla1128
			聯絡我們