2023年7月7日，在瑞士日內(nèi)瓦舉行的“人工智能造福人類全球峰會”上，一名與會者拍攝了仿真機器人索菲亞的照片。新華社記者連毅攝

據(jù)新華社北京5月12日報道，人工智能系統(tǒng)是否會欺騙人類，一直是各方關心的問題。近日，美國麻省理工學院的一個研究小組聲稱，一些人工智能系統(tǒng)已經(jīng)學會了如何欺騙人類，其中一些聲稱經(jīng)過訓練，能夠樂于助人且誠實。研究成果發(fā)表在美國細胞出版社《模式》號期刊上。

該文章的第一作者、麻省理工學院人工智能安全領域的博士后彼得·帕克和他的同事分析了一些文獻，重點研究了人工智能系統(tǒng)傳播虛假信息的方式。通過習得的欺騙，他們系統(tǒng)地學會了“操縱”他人。

研究人員發(fā)現(xiàn)的人工智能系統(tǒng)欺騙最引人注目的例子是元界平臺的“西塞羅”人工智能系統(tǒng)，該系統(tǒng)旨在在虛擬外交策略游戲中充當人類玩家的對手。盡管Metaverse平臺公司聲稱西塞羅AI系統(tǒng)“很大程度上是誠實且樂于助人的”并且在玩游戲時“從不故意背刺”其人類盟友，但該公司公布的論文數(shù)據(jù)顯示該系統(tǒng)在玩游戲時并不公平。

“我們發(fā)現(xiàn)元界平臺的AI系統(tǒng)已經(jīng)成為了欺騙高手?！迸量吮硎?，“雖然元界平臺公司成功訓練其AI系統(tǒng)在游戲中獲勝，但——名‘西塞羅’AI系統(tǒng)在玩家排名前10%的——名中卻未能誠實地訓練其獲勝?！?

其他人工智能系統(tǒng)能夠在撲克游戲中虛張聲勢，或者在策略游戲《星際爭霸2》中佯裝攻擊以擊敗對手，或者在談判游戲中扭曲偏好以獲得上風。

研究人員表示，雖然人工智能系統(tǒng)在游戲中作弊看似無害，但它可能會導致“人工智能欺騙能力的突破”，并在未來演變成更高級的人工智能欺騙形式。

“我們需要盡可能多的時間來為未來人工智能產(chǎn)品和開源模型中可能出現(xiàn)的更高級的欺騙做好準備，”帕克說。 “我們建議將欺騙性人工智能系統(tǒng)歸類為高風險系統(tǒng)。”

編輯劉嘉妮