盡管人工智能生成內(nèi)容已非常流暢,但提供的信息很多時(shí)候還是不準(zhǔn)確。日本研究人員近日在德國(guó)《先進(jìn)科學(xué)》雜志發(fā)表的一項(xiàng)研究成果顯示,這一問(wèn)題與人類(lèi)的語(yǔ)言障礙——失語(yǔ)癥類(lèi)似。新研究成果可以為研究人員改進(jìn)人工智能提供參考。
智能體、聊天機(jī)器人等基于人工智能的工具正越來(lái)越多地應(yīng)用于日常生活。考慮到人工智能模型在提供信息時(shí)表現(xiàn)出“高度自信”,如果用戶對(duì)所討論主題或領(lǐng)域缺乏足夠了解,會(huì)很容易把其中的錯(cuò)誤信息當(dāng)成正確的。
為此,日本東京大學(xué)研究人員使用了一種名為“能量景觀分析”的方法。這種方法最初由物理學(xué)家開(kāi)發(fā),旨在使磁性金屬中的能量狀態(tài)可視化,最近應(yīng)用于神經(jīng)科學(xué)。研究人員檢查了不同類(lèi)型失語(yǔ)癥患者在靜息狀態(tài)下的大腦活動(dòng)模式,并將其與幾個(gè)公開(kāi)可用的人工智能大語(yǔ)言模型的內(nèi)部數(shù)據(jù)比較。
失語(yǔ)癥患者可能會(huì)很流利地說(shuō)出一些毫無(wú)意義或難以理解的話。研究人員發(fā)現(xiàn),人工智能與此有相似之處。在這些人工智能模型中,數(shù)字信息或信號(hào)的流動(dòng)和運(yùn)作方式與某些失語(yǔ)癥患者一些大腦信號(hào)的行為方式極為相似。
研究人員說(shuō),人工智能模型在出現(xiàn)嚴(yán)重錯(cuò)誤時(shí)仍表達(dá)流暢,這與感覺(jué)性失語(yǔ)癥的癥狀有相似之處,即說(shuō)話流利卻總說(shuō)不出什么意思。這并不意味著聊天機(jī)器人有“腦損傷”,但它們可能被鎖定在一種僵化的內(nèi)部模式中,限制其靈活運(yùn)用所儲(chǔ)存知識(shí),就像得了感覺(jué)性失語(yǔ)癥。
研究人員表示,對(duì)神經(jīng)科學(xué)來(lái)說(shuō),這項(xiàng)研究提供了一種可能的新方法,可以根據(jù)大腦內(nèi)部活動(dòng)而不僅是外部癥狀來(lái)分類(lèi)和監(jiān)測(cè)失語(yǔ)癥等疾?。粚?duì)人工智能研究來(lái)說(shuō),這將幫助研究人員從內(nèi)到外改進(jìn)人工智能系統(tǒng)的架構(gòu)。
盡管人工智能生成內(nèi)容已非常流暢,但提供的信息很多時(shí)候還是不準(zhǔn)確。日本研究人員近日在德國(guó)《先進(jìn)科學(xué)》雜志發(fā)表的一項(xiàng)研究成果顯示,這一問(wèn)題與人類(lèi)的語(yǔ)言障礙——失語(yǔ)癥類(lèi)似。新研究成果可以為研究人員改進(jìn)人工智能提供參考。
智能體、聊天機(jī)器人等基于人工智能的工具正越來(lái)越多地應(yīng)用于日常生活??紤]到人工智能模型在提供信息時(shí)表現(xiàn)出“高度自信”,如果用戶對(duì)所討論主題或領(lǐng)域缺乏足夠了解,會(huì)很容易把其中的錯(cuò)誤信息當(dāng)成正確的。
為此,日本東京大學(xué)研究人員使用了一種名為“能量景觀分析”的方法。這種方法最初由物理學(xué)家開(kāi)發(fā),旨在使磁性金屬中的能量狀態(tài)可視化,最近應(yīng)用于神經(jīng)科學(xué)。研究人員檢查了不同類(lèi)型失語(yǔ)癥患者在靜息狀態(tài)下的大腦活動(dòng)模式,并將其與幾個(gè)公開(kāi)可用的人工智能大語(yǔ)言模型的內(nèi)部數(shù)據(jù)比較。
失語(yǔ)癥患者可能會(huì)很流利地說(shuō)出一些毫無(wú)意義或難以理解的話。研究人員發(fā)現(xiàn),人工智能與此有相似之處。在這些人工智能模型中,數(shù)字信息或信號(hào)的流動(dòng)和運(yùn)作方式與某些失語(yǔ)癥患者一些大腦信號(hào)的行為方式極為相似。
研究人員說(shuō),人工智能模型在出現(xiàn)嚴(yán)重錯(cuò)誤時(shí)仍表達(dá)流暢,這與感覺(jué)性失語(yǔ)癥的癥狀有相似之處,即說(shuō)話流利卻總說(shuō)不出什么意思。這并不意味著聊天機(jī)器人有“腦損傷”,但它們可能被鎖定在一種僵化的內(nèi)部模式中,限制其靈活運(yùn)用所儲(chǔ)存知識(shí),就像得了感覺(jué)性失語(yǔ)癥。
研究人員表示,對(duì)神經(jīng)科學(xué)來(lái)說(shuō),這項(xiàng)研究提供了一種可能的新方法,可以根據(jù)大腦內(nèi)部活動(dòng)而不僅是外部癥狀來(lái)分類(lèi)和監(jiān)測(cè)失語(yǔ)癥等疾病;對(duì)人工智能研究來(lái)說(shuō),這將幫助研究人員從內(nèi)到外改進(jìn)人工智能系統(tǒng)的架構(gòu)。
本文鏈接:http://www.lbgj202.com/v-146-539.html新研究:人工智能生成內(nèi)容不準(zhǔn)確與失語(yǔ)癥類(lèi)似
相關(guān)文章:
我國(guó)侵入式腦機(jī)接口進(jìn)入臨床試驗(yàn)階段06-16
螃蟹游戲服務(wù)網(wǎng)獲批成為中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)會(huì)員單位06-12
設(shè)計(jì)院實(shí)習(xí)報(bào)告12-03
農(nóng)村第一書(shū)記工作總結(jié)報(bào)告(十六篇)08-19
人身安全協(xié)議書(shū)12-07
大學(xué)生畢業(yè)實(shí)習(xí)協(xié)議書(shū)07-16
公司端午節(jié)放假通知05-23
考試感想05-08
軍訓(xùn)的感想和體會(huì)10-24
蘇州留園的導(dǎo)游詞07-17
春節(jié)敘事的作文03-24
假期生活英語(yǔ)作文11-26
游雁棲湖作文11-19
給貧困失學(xué)兒童的一封信11-09
中國(guó)銀行業(yè)協(xié)會(huì):浙江2025上半年銀行從業(yè)資格準(zhǔn)考證打印入口已開(kāi)通06-13
《跳皮筋》教案11-27
小班科學(xué)教案認(rèn)識(shí)水果10-05
滅火應(yīng)急預(yù)案12-14
情人節(jié)朋友圈文案12-09