觀察員
-
院士何積豐：應(yīng)對(duì)大模型的安全問題，需設(shè)好“緊箍咒”
模型的通用能力讓其能夠應(yīng)用到人類生產(chǎn)生活的各個(gè)場(chǎng)景中，可謂“無孔不入”。AI的發(fā)展因此帶來了新的安全隱私問題，如何解決這一隱患，9月7日開幕的2023 INCLUSION·外灘大會(huì)上，中國科學(xué)院院士何積豐開出了他的“藥方”：利用對(duì)齊技術(shù)為大模型戴上緊箍咒。
何積豐院士認(rèn)為，大模型的安全問題主要是在未經(jīng)同意的情況下，收集、使用和泄露個(gè)人信息。隱私問題既可能發(fā)生在訓(xùn)練過程，也可能發(fā)生在使用過程中，而大模型的生成能力則讓“隱私泄露”的方式變得多樣化，造成隱私保護(hù)更加困難。
中國科學(xué)院院士何積豐
“為了應(yīng)對(duì)這些問題，我們需要大模型對(duì)齊技術(shù)?！焙畏e豐說，“對(duì)齊（alignment）”是指系統(tǒng)的目標(biāo)和人類價(jià)值觀一致，使其符合設(shè)計(jì)者的利益和預(yù)期，不會(huì)產(chǎn)生意外的有害后果?！叭绻讶斯ぶ悄芸醋魑饔斡浝锏膶O悟空，‘對(duì)齊’就是唐僧的緊箍咒。有了緊箍咒，就可以保證技術(shù)不會(huì)任意使用能力胡作非為?！?
不過，對(duì)齊技術(shù)同樣面臨挑戰(zhàn)。首先，對(duì)齊的基礎(chǔ)，人類的價(jià)值觀是多元且動(dòng)態(tài)變化的，需要保證大模型為人服務(wù)、與人為善；其次，大模型的有用性與無害性之間目標(biāo)也不完全一致。如何對(duì)錯(cuò)誤進(jìn)行有效糾正，設(shè)好大模型的“緊箍咒”也是挑戰(zhàn)。
因此，對(duì)齊技術(shù)已經(jīng)成為了一項(xiàng)令人眼花繚亂的跨學(xué)科研究，不僅考驗(yàn)技術(shù)，也審視文化。
何積豐介紹，反饋強(qiáng)化學(xué)習(xí)是實(shí)現(xiàn)對(duì)齊的技術(shù)途徑，目前有兩種方式，一種方式是通過人工反饋給模型不同的獎(jiǎng)勵(lì)信號(hào)，引導(dǎo)模型的高質(zhì)量輸出；另一種方式，事先給大模型提供明確的原則，系統(tǒng)自動(dòng)訓(xùn)練模型對(duì)所有生成的輸出結(jié)果提供初始排序?！斑@意味著，不僅智能系統(tǒng)需要向人類價(jià)值觀對(duì)齊，人類的訓(xùn)練方法也要向價(jià)值觀對(duì)齊?！焙畏e豐說。
本文系觀察者網(wǎng)獨(dú)家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。
標(biāo)簽 外灘大會(huì)- 責(zé)任編輯: 陳濟(jì)深
-
-
-
-
細(xì)則落地！存量首套房貸利率調(diào)整，四大行發(fā)布公告
2023-09-07 11:25 觀網(wǎng)財(cái)經(jīng)-房產(chǎn) -
全面擁抱大模型，騰訊混元正式亮相
2023-09-07 10:47 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
-
頂風(fēng)作案！340萬股，買回來
2023-09-07 08:58 觀網(wǎng)財(cái)經(jīng)-金融 -
二手車商日子難過：600平米展廳一年上千萬流水只賺1萬元
2023-09-07 08:10 -
網(wǎng)約車圍城：一年之內(nèi)涌入41家平臺(tái)、上百萬名駕駛員
2023-09-07 08:06 觀網(wǎng)財(cái)經(jīng)-汽車 -
莫斯科交易所：8月人民幣交易額環(huán)比增長(zhǎng)超30%
2023-09-06 20:02 觀網(wǎng)財(cái)經(jīng)-海外 -
報(bào)告：高凈值人群進(jìn)一步年輕化，“富二代”占比減少？
2023-09-06 17:46 觀網(wǎng)財(cái)經(jīng)-金融 -
國家發(fā)改委上線民間投資問題反映專欄
2023-09-06 17:39 -
?歐洲最大地方政府破產(chǎn)，怎么回事？
2023-09-06 16:09 觀網(wǎng)財(cái)經(jīng)-宏觀 -
旅游需求強(qiáng)勁，攜程二季度營(yíng)收超2019年同期29%
2023-09-05 18:27 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
杭州今日起實(shí)施“認(rèn)房不認(rèn)貸”
2023-09-05 18:02 觀網(wǎng)財(cái)經(jīng)-房產(chǎn) -
歐洲車企“焦慮”：這是一個(gè)轉(zhuǎn)折點(diǎn)
2023-09-05 16:59 汽車展 -
華為：網(wǎng)傳“美國邀請(qǐng)任正非去美國”純屬造謠
2023-09-05 16:25 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
華為公開表態(tài)后，諾基亞持有的鼎橋51%股權(quán)不賣了
2023-09-05 14:19 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
手機(jī)寒冬中凈利潤(rùn)翻倍，小米盧偉冰回應(yīng)“友商回歸”
2023-09-05 07:49 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
沈陽取消限購限售
2023-09-04 22:40 觀網(wǎng)財(cái)經(jīng)-房產(chǎn)
相關(guān)推薦 -
特朗普威脅俄羅斯有沒有用？“到頭來還要看中印” 評(píng)論 12
他還沒去倒是想挺美：火星將是美國的一部分 評(píng)論 136
“半個(gè)房本不夠買輛車，特朗普狠傷自己基本盤” 評(píng)論 164
“和中美搶占份額”，歐洲“光譜”首戰(zhàn)失敗 評(píng)論 216
格陵蘭島回懟特朗普：美國不會(huì)得到，我們不屬于任何人 評(píng)論 203最新聞 Hot-
加拿大人也不買了
-
“DOGE讓我付出了很大的代價(jià)，但...”
-
特朗普威脅俄羅斯有沒有用？“到頭來還要看中印”
-
“烏克蘭計(jì)劃夏天大選，前提是...”
-
勒龐被定罪，不能競(jìng)選法國總統(tǒng)了
-
他還沒去倒是想挺美：火星將是美國的一部分
-
日本再發(fā)警告：若發(fā)生，或致近30萬人遇難
-
“半個(gè)房本不夠買輛車，特朗普狠傷自己基本盤”
-
美科技巨頭重倉這一領(lǐng)域，“但中國已經(jīng)領(lǐng)先”
-
日本：最后的堡壘，也開始塌了
-
“和中美搶占份額”，歐洲“光譜”首戰(zhàn)失敗
-
格陵蘭島回懟特朗普：美國不會(huì)得到，我們不屬于任何人
-
丘成桐：中國已準(zhǔn)備好培養(yǎng)自己的頂尖數(shù)學(xué)家
-
“俄美已開始討論稀土合作”，但…
-
美部長(zhǎng)：還能塞得下特朗普的臉
-
“普京主義在美國獲勝了”
-
- 聯(lián)系我們
- 關(guān)于我們
- 版權(quán)聲明
- 服務(wù)條款
- 刊登廣告
- 聯(lián)系微博
- 加入我們
- 網(wǎng)站地圖
- 舉報(bào)鏈接
- 舉報(bào)制度規(guī)范
- 《網(wǎng)站自律管理承諾書》
Copyright ? 2014-2024 觀察者 All rights reserved。
滬ICP備10213822號(hào)-2 互聯(lián)網(wǎng)新聞信息服務(wù)許可證：31220170001
網(wǎng)登網(wǎng)視備（滬）02020000041-1號(hào) 互聯(lián)網(wǎng)宗教信息服務(wù)許可證：滬（2024）0000009
廣播電視節(jié)目制作經(jīng)營(yíng)許可證：（滬）字第03952號(hào)
增值電信業(yè)務(wù)經(jīng)營(yíng)許可證：滬B2-20210968 違法及不良信息舉報(bào)電話：021-62376571
滬公網(wǎng)安備 31010502000027號(hào)
中國互聯(lián)網(wǎng)舉報(bào)中心
上海市互聯(lián)網(wǎng)違法與不良信息舉報(bào)中心
