如何應對大模型的安全問題,中國科學院院士何積豐:人工智能是“孫悟空”,對齊技術就是“緊箍咒”
2023-09-07 17:11:50 來源:東方網(wǎng)·縱相新聞
(資料圖片僅供參考)
模型的通用能力讓其能夠應用到人類生產(chǎn)生活的各個場景中,可謂“無孔不入”。AI的發(fā)展因此帶來了新的安全隱私問題,如何解決這一隱患,在今天開幕的2023 INCLUSION·外灘大會上,中國科學院院士何積豐開出了他的“藥方”:利用對齊技術為大模型戴上緊箍咒。“為了應對這些問題,我們需要大模型對齊技術?!焙畏e豐說,“對齊(alignment)”是指系統(tǒng)的目標和人類價值觀一致,使其符合設計者的利益和預期,不會產(chǎn)生意外的有害后果。“如果把人工智能看作西游記里的孫悟空,‘對齊’就是唐僧的緊箍咒。有了緊箍咒,就可以保證技術不會任意使用能力胡作非為?!保|方網(wǎng)·縱相視頻 程琦 丁一涵)
關鍵詞:
相關閱讀
-
如何應對大模型的安全問題,中國科學院...
模型的通用能力讓其能夠應用到人類生產(chǎn)生活的各個場景中,可謂“無... -
我國建立農(nóng)作物種子認證制度 為好種子...
人民網(wǎng)北京9月7日電(記者李棟)近日,市場監(jiān)管總局聯(lián)合農(nóng)業(yè)農(nóng)村部印發(fā) -
浙江:一杯咖啡折射鄉(xiāng)村能級躍升新思路
“走,去村里喝杯咖啡!”——于自然野趣中品味咖啡芳香,在“詩和... -
政策密集出臺后多地樓市一線見聞
從明確首套房“認房不認貸”標準,到延續(xù)實施居民換房個稅優(yōu)惠政策... -
江西豐城:荒山變花海,催生“美麗經(jīng)濟”
眼下,走進江西省豐城市“中國愛情花卉小鎮(zhèn)”,隨處可見花枝搖曳,... -
黑龍江在經(jīng)濟新藍海中再起航
【高質(zhì)量發(fā)展調(diào)研行】 ◎本報記者張佳星劉莉李麗云孫明源 蒼原莽 -
撬動數(shù)字化轉型潛能 新紫光集團加速布...
人民網(wǎng)北京9月7日電(記者栗翹楚)9月5日至7日,由印尼輪值主辦的“第4 -
國際清潔空氣藍天日 | 數(shù)讀我國大氣污...
空氣,包圍著地球,滋養(yǎng)著生命。2023年9月7日是第四個國際清潔空氣藍天 -
中國第13次北冰洋科學考察隊抵達北極點
人民網(wǎng)北京9月7日電(王紹紹)據(jù)自然資源部消息,北京時間2023年9月5日 -
工信部:面向5G通信、元宇宙等領域需求...
人民網(wǎng)成都9月7日電(記者申佳平)“新型顯示產(chǎn)品是信息社會的主要... -
海關總署:前8個月民營企業(yè)進出口14.33...
人民網(wǎng)北京9月7日電(記者王震)海關總署今日發(fā)布數(shù)據(jù)顯示,前8個月, -
國有大型商業(yè)銀行公布存量首套個人住房...
人民網(wǎng)北京9月7日電(黃盛)工商銀行、農(nóng)業(yè)銀行、中國銀行、建設銀行在 -
業(yè)內(nèi)聚焦算力服務高質(zhì)量發(fā)展:需優(yōu)化布...
人民網(wǎng)北京9月7日電(記者栗翹楚)當前,加快推進算力基礎設施建設,已 -
多家銀行宣布降低存量首套住房貸款利率
人民網(wǎng)北京9月7日電(記者羅知之)9月7日,工商銀行、農(nóng)業(yè)銀行、中國銀 -
數(shù)讀中國 | 系列舉措密集出臺 激發(fā)民...
(責編:王震、高雷) tjewm{width:100%;text-align:center;margin:30 -
國家郵政局:8月中國快遞發(fā)展指數(shù)為361....
人民網(wǎng)北京9月7日電(記者楊虞波羅)據(jù)國家郵政局消息,經(jīng)測算,2023年 -
仁化縣石塘鎮(zhèn)積極探索生態(tài)種養(yǎng)新模式
今年來,仁化縣石塘鎮(zhèn)依托良好的生態(tài)資源優(yōu)勢,積極探索實施“稻蝦... -
五里亭大橋、百旺大橋維修加固工程即將啟動
我市五里亭大橋、百旺大橋均于2004年建成通車,運營至今將近20年,由于 -
破解安“樁”難題,韶關有“新”模式—...
小區(qū)物業(yè)不同意出具安裝充電樁的同意書、公共充電樁搶位難、公共充電樁 -
聚力打造“峽谷山寶”生態(tài)農(nóng)業(yè)特色品牌...
近年來,乳源瑤族自治縣大布鎮(zhèn)圍繞“峽谷山寶”鄉(xiāng)村振興先行示范帶...