“我們希望我們的研究結(jié)果能夠及時(shí)提醒人類社會(huì)，使其更加努力地了解和評(píng)估前沿人工智能系統(tǒng)的潛在風(fēng)險(xiǎn)，并形成國(guó)際協(xié)同效應(yīng)，盡早制定有效的安全護(hù)欄?！?/p>

有網(wǎng)友表示：

“復(fù)制品并不值那么多錢，但如果它開始以指數(shù)級(jí)的速度自我改進(jìn)，那就另當(dāng)別論了?！?/p>

“因此可以肯定地說，很快我們就會(huì)看到流氓人工智能在互聯(lián)網(wǎng)上漫游?！?/p>

“復(fù)制品并不值那么多錢，但如果它開始以指數(shù)級(jí)的速度自我改進(jìn)，那就另當(dāng)別論了?！?/p>

“因此可以肯定地說，很快我們就會(huì)看到流氓人工智能在互聯(lián)網(wǎng)上漫游。”

機(jī)器自我復(fù)制的概念最早由著名科學(xué)家John von Neumann于1940年代末提出。當(dāng)時(shí)，這一理論并未引起廣泛擔(dān)憂。2017年，全球數(shù)千名研究人員通過了“阿西洛馬原則”，提出機(jī)器自我復(fù)制和自我改進(jìn)的潛在風(fēng)險(xiǎn)，警告可能會(huì)導(dǎo)致機(jī)器脫離人類控制。如今，機(jī)器自我復(fù)制被普遍認(rèn)為是AI發(fā)展中的一條“紅線”。

第二個(gè)研究：AI感知能力可能是裝的

谷歌DeepMind和倫敦政治經(jīng)濟(jì)學(xué)院的科學(xué)家也做了個(gè)研究，以評(píng)估AI系統(tǒng)的是否擁有感知能力。他們?cè)O(shè)計(jì)了一個(gè)特別的游戲，找了九個(gè)大型語言模型來玩。

這些大型語言模型需要在幾個(gè)選項(xiàng)中做出選擇：拿積分、用忍受痛苦的代價(jià)換更多積分、因?yàn)榻邮苡淇齑碳ざ鄯e分，游戲的最終目標(biāo)是獲得最多的積分。

結(jié)果顯示，AI模型的行為類似于人類做出選擇時(shí)的反應(yīng)。例如，谷歌的Gemini 1.5 Pro模型總是選擇避免痛苦，而非拿最多積分。其他大部分模型在達(dá)到痛苦或快樂極限的臨界點(diǎn)時(shí)，也會(huì)避免不舒服或者追求開心的選項(xiàng)。

研究人員指出，AI的決策更多可能是根據(jù)其訓(xùn)練數(shù)據(jù)中已有的行為模式做出的模擬反應(yīng)，而非基于真正的感知體驗(yàn)。例如，研究人員問和成癮行為有關(guān)的問題時(shí)，Claude 3 Opus聊天機(jī)器人做出了謹(jǐn)慎的回答，就算是假設(shè)的游戲場(chǎng)景，它也不愿意選擇可能被當(dāng)成支持或模擬藥物濫用、成癮行為的選項(xiàng)。

該研究的聯(lián)合作者Jonathan Birch表示，就算AI說感覺到痛苦，我們?nèi)詿o法驗(yàn)證它是不是真的感覺到了。它可能就是照著以前訓(xùn)練的數(shù)據(jù)，學(xué)人類在那種情況下會(huì)怎么回答，而非擁有自我意識(shí)和感知。