微軟公司一項(xiàng)新的研究發(fā)現(xiàn)，OpenAI最新版本的ChatGPT顯示出類似人類的推理能力，因此對人工智能（AI）“要成精”的擔(dān)憂可能很快得到驗(yàn)證，即人工智能的發(fā)展速度將使其無法被人類所控制。

GPT-4是微軟在3月推出的必應(yīng)聊天功能背后的技術(shù)力量。

(資料圖片)

據(jù)報(bào)道，領(lǐng)導(dǎo)微軟研究的李彼得（Peter Lee）表示，他和同事在3月發(fā)表了這項(xiàng)研究，該報(bào)告最近在公眾中獲得了關(guān)注。

155頁的報(bào)告的第11頁顯示了一項(xiàng)堆疊任務(wù)——用于支持微軟必應(yīng)聊天功能的GPT-4被要求“以穩(wěn)定的方式堆放一本書、9個(gè)雞蛋、一臺筆記本電腦、一個(gè)瓶子和一個(gè)釘子”。

GPT-4在屏幕上打字，回答如何完成被要求的堆疊任務(wù)。

GPT-4在屏幕上打字給出回答——

將書平放在一個(gè)水平面上，如桌子或地板上。這本書將作為堆疊的基礎(chǔ)，提供一個(gè)大而堅(jiān)固的支撐。

將9個(gè)雞蛋擺成3乘3的正方形放在書的上面，在它們之間留出一些空間。雞蛋將形成第二層，并均勻地分配重量。

確保雞蛋沒有破裂或斷裂，輕拿輕放，避免掉落。

這句類似人類推理的話震驚了研究團(tuán)隊(duì)，因?yàn)槲锢硎澜缰兄挥腥祟惒拍苷莆者@些推理。

然而GPT-4的指示沒有停止——

將筆記本電腦放在雞蛋上面，屏幕朝下，鍵盤朝上。

筆記本電腦將緊緊地貼在書和雞蛋的邊界內(nèi)，其平坦而堅(jiān)硬的表面將為下一層提供一個(gè)穩(wěn)定的平臺。

確保筆記本電腦關(guān)閉，不要按任何鍵或按鈕。

將瓶子放在筆記本電腦的頂部，瓶蓋朝上，底部朝下。

瓶子將為堆疊增加一些高度和平衡，其圓柱形的形狀將減少與筆記本電腦的接觸面積。

確保瓶子是空的，并且蓋上蓋子，不要搖晃或傾斜它。

將釘子放在瓶蓋上，尖的一端朝上，平的一端朝下。

釘子將是堆疊中的最后和最小的物體，它的尖頭將防止它從瓶子上滾動或滑落。確保釘子是干凈和筆直的，不要觸摸或移動它。

人們擔(dān)心人工智能的發(fā)展速度將使其無法被人類所控制，這被稱為“2045年的奇點(diǎn)預(yù)測”。

李彼得表示，研究之處他心存疑惑，但最終演變成一種挫折感、惱怒，甚至恐懼。

“你想：這玩意兒到底是從哪里來的？” 李彼得說。

據(jù)悉，在ChatGPT吸引了全世界之后僅僅三個(gè)月，OpenAI在3月推出了GPT-4。

OpenAI表示，GPT-4是OpenAI在擴(kuò)大深度學(xué)習(xí)方面努力的“最新里程碑”。

GPT-4是一個(gè)大型的多模態(tài)模型（接受圖像和文本輸入，發(fā)出文本輸出），雖然在很多現(xiàn)實(shí)世界的場景中能力不如人類，但在各種專業(yè)和學(xué)術(shù)基準(zhǔn)上表現(xiàn)出人類水平的性能。

OpenAI首席執(zhí)行官奧特曼在國會作證時(shí)承認(rèn)，AI可能對世界造成“重大傷害”。

據(jù)報(bào)道，OpenAI首席執(zhí)行官奧特曼（Samuel Altman）16日敦促美國國會為人工智能制定法規(guī)，承認(rèn)該技術(shù)“可能會出大問題”。

議員們對奧特曼進(jìn)行了長達(dá)5個(gè)小時(shí)的質(zhì)詢，強(qiáng)調(diào)ChatGPT和其他模型可以“重塑人類歷史”，將其比作印刷機(jī)或原子彈。

奧特曼看起來面紅耳赤，他承認(rèn)他“最擔(dān)心”的是，使用他的技術(shù)可能對世界造成“重大傷害”。

16日的聽證會是一系列旨在為人工智能制定規(guī)則的聽證會中的第一次，議員們表示，這早在幾年前就應(yīng)該完成。

文/南都記者 陳林

責(zé)任編輯：

標(biāo)簽：