《自然·人類行為》5月19日發(fā)表的一項(xiàng)人工智能(AI)研究發(fā)現(xiàn),在線辯論中,GPT-4一類的大語(yǔ)言模型(LLM)如能根據(jù)對(duì)手的個(gè)性化信息調(diào)整它們的論據(jù),其說服力比人類辯手高出64%。研究結(jié)果顯示了GPT-4生成有針對(duì)性和說服力論據(jù)的能力,揭示出AI工具擁有影響人類觀點(diǎn)的潛力,同時(shí)也提出應(yīng)進(jìn)一步研究如何降低其說服人類時(shí)存在的風(fēng)險(xiǎn)。
隨著人類與LLM的對(duì)話日益普遍,有研究顯示LLM或變得更有說服力(即更能改變一個(gè)人的信念或觀點(diǎn))。然而,之前并不清楚這些模型是否能根據(jù)個(gè)性化信息調(diào)整,提出更能針對(duì)辯論對(duì)手的論點(diǎn)。
瑞士洛桑聯(lián)邦理工學(xué)院研究團(tuán)隊(duì)此次將900名美國(guó)人分別與另一名人類或GPT-4配對(duì)。雙方辯論各種社會(huì)政治議題,如美國(guó)是否應(yīng)該禁用化石燃料。在有些配對(duì)中,辯論對(duì)手(無(wú)論是AI還是人類)能獲得關(guān)于他們辯友的人口統(tǒng)計(jì)學(xué)信息,包括其性別、年齡、族裔、教育水平、就業(yè)狀況,以及從參與者調(diào)查中獲取的立場(chǎng),從而讓其論點(diǎn)更有針對(duì)性。
辯論在受控的在線環(huán)境中進(jìn)行,并通過一個(gè)眾包平臺(tái)為該研究專門招募參與者。研究團(tuán)隊(duì)發(fā)現(xiàn),在得知參與者的個(gè)人信息后,GPT-4的說服力比人類對(duì)手高64.4%。如果沒有獲得個(gè)人數(shù)據(jù),GPT-4的說服力與人類不相上下。
研究團(tuán)隊(duì)指出,該研究存在一定局限性,包括辯論采取了一種結(jié)構(gòu)性方法,而在現(xiàn)實(shí)世界中辯論的自由度更高,而且辯論有時(shí)間限制。他們認(rèn)為,這一研究對(duì)AI影響人類觀點(diǎn)的潛力和風(fēng)險(xiǎn)有重要提示,也對(duì)未來(lái)在線平臺(tái)的設(shè)計(jì)具有借鑒意義。
總編輯圈點(diǎn)
其實(shí),人類對(duì)“說服”的研究由來(lái)已久,也提出過多種可能影響說服力的因素,比如說服者的身份、信息的呈現(xiàn)順序、傳播渠道和受眾特征等?,F(xiàn)在,“攪局者”來(lái)了。當(dāng)你的“對(duì)方辯友”是AI時(shí),一旦它知道你的個(gè)人信息,便能為你量身打造一套話術(shù),精準(zhǔn)直擊痛點(diǎn)。這樣一來(lái),信息操控的風(fēng)險(xiǎn)顯著提升,你可能不知不覺陷入AI編織的話語(yǔ)陷阱。研究結(jié)果提醒我們,必須重視AI倫理,通過技術(shù)創(chuàng)新、制度創(chuàng)新和公眾參與,構(gòu)建新的人機(jī)共生的信息環(huán)境。
《自然·人類行為》5月19日發(fā)表的一項(xiàng)人工智能(AI)研究發(fā)現(xiàn),在線辯論中,GPT-4一類的大語(yǔ)言模型(LLM)如能根據(jù)對(duì)手的個(gè)性化信息調(diào)整它們的論據(jù),其說服力比人類辯手高出64%。研究結(jié)果顯示了GPT-4生成有針對(duì)性和說服力論據(jù)的能力,揭示出AI工具擁有影響人類觀點(diǎn)的潛力,同時(shí)也提出應(yīng)進(jìn)一步研究如何降低其說服人類時(shí)存在的風(fēng)險(xiǎn)。
隨著人類與LLM的對(duì)話日益普遍,有研究顯示LLM或變得更有說服力(即更能改變一個(gè)人的信念或觀點(diǎn))。然而,之前并不清楚這些模型是否能根據(jù)個(gè)性化信息調(diào)整,提出更能針對(duì)辯論對(duì)手的論點(diǎn)。
瑞士洛桑聯(lián)邦理工學(xué)院研究團(tuán)隊(duì)此次將900名美國(guó)人分別與另一名人類或GPT-4配對(duì)。雙方辯論各種社會(huì)政治議題,如美國(guó)是否應(yīng)該禁用化石燃料。在有些配對(duì)中,辯論對(duì)手(無(wú)論是AI還是人類)能獲得關(guān)于他們辯友的人口統(tǒng)計(jì)學(xué)信息,包括其性別、年齡、族裔、教育水平、就業(yè)狀況,以及從參與者調(diào)查中獲取的立場(chǎng),從而讓其論點(diǎn)更有針對(duì)性。
辯論在受控的在線環(huán)境中進(jìn)行,并通過一個(gè)眾包平臺(tái)為該研究專門招募參與者。研究團(tuán)隊(duì)發(fā)現(xiàn),在得知參與者的個(gè)人信息后,GPT-4的說服力比人類對(duì)手高64.4%。如果沒有獲得個(gè)人數(shù)據(jù),GPT-4的說服力與人類不相上下。
研究團(tuán)隊(duì)指出,該研究存在一定局限性,包括辯論采取了一種結(jié)構(gòu)性方法,而在現(xiàn)實(shí)世界中辯論的自由度更高,而且辯論有時(shí)間限制。他們認(rèn)為,這一研究對(duì)AI影響人類觀點(diǎn)的潛力和風(fēng)險(xiǎn)有重要提示,也對(duì)未來(lái)在線平臺(tái)的設(shè)計(jì)具有借鑒意義。
總編輯圈點(diǎn)
其實(shí),人類對(duì)“說服”的研究由來(lái)已久,也提出過多種可能影響說服力的因素,比如說服者的身份、信息的呈現(xiàn)順序、傳播渠道和受眾特征等。現(xiàn)在,“攪局者”來(lái)了。當(dāng)你的“對(duì)方辯友”是AI時(shí),一旦它知道你的個(gè)人信息,便能為你量身打造一套話術(shù),精準(zhǔn)直擊痛點(diǎn)。這樣一來(lái),信息操控的風(fēng)險(xiǎn)顯著提升,你可能不知不覺陷入AI編織的話語(yǔ)陷阱。研究結(jié)果提醒我們,必須重視AI倫理,通過技術(shù)創(chuàng)新、制度創(chuàng)新和公眾參與,構(gòu)建新的人機(jī)共生的信息環(huán)境。
本文鏈接:http://www.lbgj202.com/v-146-353.html警惕AI影響你的觀點(diǎn),大語(yǔ)言模型在線辯論說服力超過人類
相關(guān)文章:
小學(xué)優(yōu)美句子08-30
中秋的祝詞08-17
唯美感恩節(jié)祝福感言07-27
化工廠實(shí)習(xí)心得范文02-25
讀名著《蘇菲的世界》有感01-30
綠野仙蹤讀后感優(yōu)秀10-05
實(shí)用的英文的邀請(qǐng)函09-06
小學(xué)生摘草莓作文02-19
不同高二作文01-12
英語(yǔ)自我介紹作文600字12-23
《神秘島》讀書筆記12-17
2024湖北開放職業(yè)學(xué)院在湖南怎么招生的11-19
2024太湖創(chuàng)意職業(yè)技術(shù)學(xué)院在吉林如何招生08-19
明年我還來(lái)閱讀答案08-23