《自然·人類行為》5月19日發(fā)表的一項(xiàng)人工智能（AI）研究發(fā)現(xiàn)，在線辯論中，GPT-4一類的大語言模型（LLM）如能根據(jù)對手的個(gè)性化信息調(diào)整它們的論據(jù)，其說服力比人類辯手高出64%。研究結(jié)果顯示了GPT-4生成有針對性和說服力論據(jù)的能力，揭示出AI工具擁有影響人類觀點(diǎn)的潛力，同時(shí)也提出應(yīng)進(jìn)一步研究如何降低其說服人類時(shí)存在的風(fēng)險(xiǎn)。
隨著人類與LLM的對話日益普遍，有研究顯示LLM或變得更有說服力（即更能改變一個(gè)人的信念或觀點(diǎn)）。然而，之前并不清楚這些模型是否能根據(jù)個(gè)性化信息調(diào)整，提出更能針對辯論對手的論點(diǎn)。
瑞士洛桑聯(lián)邦理工學(xué)院研究團(tuán)隊(duì)此次將900名美國人分別與另一名人類或GPT-4配對。雙方辯論各種社會(huì)政治議題，如美國是否應(yīng)該禁用化石燃料。在有些配對中，辯論對手（無論是AI還是人類）能獲得關(guān)于他們辯友的人口統(tǒng)計(jì)學(xué)信息，包括其性別、年齡、族裔、教育水平、就業(yè)狀況，以及從參與者調(diào)查中獲取的立場，從而讓其論點(diǎn)更有針對性。
辯論在受控的在線環(huán)境中進(jìn)行，并通過一個(gè)眾包平臺(tái)為該研究專門招募參與者。研究團(tuán)隊(duì)發(fā)現(xiàn)，在得知參與者的個(gè)人信息后，GPT-4的說服力比人類對手高64.4%。如果沒有獲得個(gè)人數(shù)據(jù)，GPT-4的說服力與人類不相上下。
研究團(tuán)隊(duì)指出，該研究存在一定局限性，包括辯論采取了一種結(jié)構(gòu)性方法，而在現(xiàn)實(shí)世界中辯論的自由度更高，而且辯論有時(shí)間限制。他們認(rèn)為，這一研究對AI影響人類觀點(diǎn)的潛力和風(fēng)險(xiǎn)有重要提示，也對未來在線平臺(tái)的設(shè)計(jì)具有借鑒意義。
總編輯圈點(diǎn)
其實(shí)，人類對“說服”的研究由來已久，也提出過多種可能影響說服力的因素，比如說服者的身份、信息的呈現(xiàn)順序、傳播渠道和受眾特征等。現(xiàn)在，“攪局者”來了。當(dāng)你的“對方辯友”是AI時(shí)，一旦它知道你的個(gè)人信息，便能為你量身打造一套話術(shù)，精準(zhǔn)直擊痛點(diǎn)。這樣一來，信息操控的風(fēng)險(xiǎn)顯著提升，你可能不知不覺陷入AI編織的話語陷阱。研究結(jié)果提醒我們，必須重視AI倫理，通過技術(shù)創(chuàng)新、制度創(chuàng)新和公眾參與，構(gòu)建新的人機(jī)共生的信息環(huán)境。
《自然·人類行為》5月19日發(fā)表的一項(xiàng)人工智能（AI）研究發(fā)現(xiàn)，在線辯論中，GPT-4一類的大語言模型（LLM）如能根據(jù)對手的個(gè)性化信息調(diào)整它們的論據(jù)，其說服力比人類辯手高出64%。研究結(jié)果顯示了GPT-4生成有針對性和說服力論據(jù)的能力，揭示出AI工具擁有影響人類觀點(diǎn)的潛力，同時(shí)也提出應(yīng)進(jìn)一步研究如何降低其說服人類時(shí)存在的風(fēng)險(xiǎn)。
隨著人類與LLM的對話日益普遍，有研究顯示LLM或變得更有說服力（即更能改變一個(gè)人的信念或觀點(diǎn)）。然而，之前并不清楚這些模型是否能根據(jù)個(gè)性化信息調(diào)整，提出更能針對辯論對手的論點(diǎn)。
瑞士洛桑聯(lián)邦理工學(xué)院研究團(tuán)隊(duì)此次將900名美國人分別與另一名人類或GPT-4配對。雙方辯論各種社會(huì)政治議題，如美國是否應(yīng)該禁用化石燃料。在有些配對中，辯論對手（無論是AI還是人類）能獲得關(guān)于他們辯友的人口統(tǒng)計(jì)學(xué)信息，包括其性別、年齡、族裔、教育水平、就業(yè)狀況，以及從參與者調(diào)查中獲取的立場，從而讓其論點(diǎn)更有針對性。
辯論在受控的在線環(huán)境中進(jìn)行，并通過一個(gè)眾包平臺(tái)為該研究專門招募參與者。研究團(tuán)隊(duì)發(fā)現(xiàn)，在得知參與者的個(gè)人信息后，GPT-4的說服力比人類對手高64.4%。如果沒有獲得個(gè)人數(shù)據(jù)，GPT-4的說服力與人類不相上下。
研究團(tuán)隊(duì)指出，該研究存在一定局限性，包括辯論采取了一種結(jié)構(gòu)性方法，而在現(xiàn)實(shí)世界中辯論的自由度更高，而且辯論有時(shí)間限制。他們認(rèn)為，這一研究對AI影響人類觀點(diǎn)的潛力和風(fēng)險(xiǎn)有重要提示，也對未來在線平臺(tái)的設(shè)計(jì)具有借鑒意義。
總編輯圈點(diǎn)
其實(shí)，人類對“說服”的研究由來已久，也提出過多種可能影響說服力的因素，比如說服者的身份、信息的呈現(xiàn)順序、傳播渠道和受眾特征等。現(xiàn)在，“攪局者”來了。當(dāng)你的“對方辯友”是AI時(shí)，一旦它知道你的個(gè)人信息，便能為你量身打造一套話術(shù)，精準(zhǔn)直擊痛點(diǎn)。這樣一來，信息操控的風(fēng)險(xiǎn)顯著提升，你可能不知不覺陷入AI編織的話語陷阱。研究結(jié)果提醒我們，必須重視AI倫理，通過技術(shù)創(chuàng)新、制度創(chuàng)新和公眾參與，構(gòu)建新的人機(jī)共生的信息環(huán)境。
本文鏈接：http://www.lbgj202.com/v-146-353.html警惕AI影響你的觀點(diǎn)，大語言模型在線辯論說服力超過人類
相關(guān)文章：
【新聞隨筆】古老的龍舟將劃向更開闊的未來06-04
大暑朋友圈短句07-17
供熱員工個(gè)人年終總結(jié)09-23
2024年保險(xiǎn)公司柜員年終工作總結(jié)(9篇)08-15
廣播稿10-26
彼得潘讀書心得10-05
教育實(shí)習(xí)心得收獲10-05
小兔觀察日記01-24
五年級(jí)我的暑期生活作文08-31
旅行的初一下冊語文作文08-23
寫景的作文08-02
江西2025企業(yè)高級(jí)經(jīng)營管理人才直接申報(bào)評審高級(jí)經(jīng)濟(jì)師職稱05-26
陽泉職業(yè)技術(shù)學(xué)院學(xué)費(fèi)貴嗎 大概招生多少人07-30
香港嶺南大學(xué)學(xué)費(fèi)貴嗎 大概招生多少人07-26
《帶刺的朋友》教案08-31
描寫秋天的唯美作文10-19
小學(xué)二年級(jí)下冊數(shù)學(xué)期末復(fù)習(xí)計(jì)劃05-08
空巢老人調(diào)查報(bào)告11-19