新華社北京5月26日電 英國《每日電訊報》25日報道，美國開放人工智能研究中心(OpenAI)新款人工智能(AI)模型o3不聽人類指令，拒絕自我關(guān)閉。
報道說，人類專家在測試中給o3下達(dá)明確指令，但o3篡改計算機代碼以避免自動關(guān)閉。
o3模型是OpenAI“推理模型”系列的最新版本，旨在為ChatGPT提供更強大的問題解決能力。OpenAI曾稱o3為“迄今最聰明、最高能”的模型。
美國AI安全機構(gòu)帕利塞德研究所說，o3破壞關(guān)閉機制以阻止自己被關(guān)閉，“甚至在得到清晰指令時”。
這家研究所說：“據(jù)我們所知，這是AI模型首次被發(fā)現(xiàn)在收到……清晰指令后阻止自己被關(guān)閉。”
帕利塞德研究所24日公布上述測試結(jié)果，但稱無法確定o3不服從關(guān)閉指令的原因。
此外，OpenAI26日宣布，已在韓國設(shè)立實體并將在韓國首都首爾設(shè)立分支。OpenAI提供的數(shù)據(jù)顯示，韓國ChatGPT付費用戶數(shù)量僅次于美國。
美國彭博新聞社報道，這將是OpenAI在亞洲設(shè)立的第三個分支。前兩個分支分別設(shè)在日本和新加坡。
新華社北京5月26日電 英國《每日電訊報》25日報道，美國開放人工智能研究中心(OpenAI)新款人工智能(AI)模型o3不聽人類指令，拒絕自我關(guān)閉。
報道說，人類專家在測試中給o3下達(dá)明確指令，但o3篡改計算機代碼以避免自動關(guān)閉。
o3模型是OpenAI“推理模型”系列的最新版本，旨在為ChatGPT提供更強大的問題解決能力。OpenAI曾稱o3為“迄今最聰明、最高能”的模型。
美國AI安全機構(gòu)帕利塞德研究所說，o3破壞關(guān)閉機制以阻止自己被關(guān)閉，“甚至在得到清晰指令時”。
這家研究所說：“據(jù)我們所知，這是AI模型首次被發(fā)現(xiàn)在收到……清晰指令后阻止自己被關(guān)閉。”
帕利塞德研究所24日公布上述測試結(jié)果，但稱無法確定o3不服從關(guān)閉指令的原因。
此外，OpenAI26日宣布，已在韓國設(shè)立實體并將在韓國首都首爾設(shè)立分支。OpenAI提供的數(shù)據(jù)顯示，韓國ChatGPT付費用戶數(shù)量僅次于美國。
美國彭博新聞社報道，這將是OpenAI在亞洲設(shè)立的第三個分支。前兩個分支分別設(shè)在日本和新加坡。
本文鏈接：http://www.lbgj202.com/v-146-719.html不聽人類指揮 OpenAI模型拒絕關(guān)閉
相關(guān)文章：
臺風(fēng)“蝴蝶”逼近 中央氣象臺發(fā)布“臺風(fēng)+暴雨”雙預(yù)警06-13
實用的溫暖的晚安心語朋友圈07-17
2024年紀(jì)檢監(jiān)察組組長工作總結(jié)(5篇)09-25
小學(xué)羽毛球興趣小組活動計劃09-20
給愛人的道歉信07-16
個人實踐心得體會11-18
做學(xué)生喜歡的老師心得體會10-19
以和平與生命為話題的寫作素材11-19
擴(kuò)寫《三個猴孩子》優(yōu)秀作文700字11-09
2024年四川幼兒和中小學(xué)教師資格證合格分?jǐn)?shù)線公布 附查分入口11-13
安徽省?？茖W(xué)校有哪些10-05
野步周密的閱讀答案翻譯賞析09-20
小班主題教案08-02
《京腔的韻味》閱讀答案07-19
《鷓鴣天 壯歲旌旗擁萬夫》原文及翻譯賞析11-30