剛剛發(fā)布5天的GPT-4，掀起了一場(chǎng)軒然大波。

　　一位斯坦福大學(xué)教授最新發(fā)現，GPT-4竟然能引誘人類(lèi)提供開(kāi)發(fā)文檔，在30分鐘就擬定出了一個(gè)完整的“外逃越獄”計劃。

　　GPT-4自研“外逃”路徑

　　3月14日，美國人工智能研究實(shí)驗室OpenAI為聊天機器人ChatGPT發(fā)布了GPT-4語(yǔ)言模型。3月15日，微軟副總裁兼消費者首席營(yíng)銷(xiāo)官Yusuf Mehdi發(fā)文確認新必應搜索引擎正在運行GPT-4.

　　據介紹，GPT-4的回答準確性不僅大幅提高，還具備更高水平的識圖能力，且能夠生成歌詞、創(chuàng )意文本，實(shí)現風(fēng)格變化。此外，GPT-4的文字輸入限制也提升至2.5萬(wàn)字，且對于英語(yǔ)以外的語(yǔ)種支持有更多優(yōu)化。

　　不過(guò)，本周末，斯坦福大學(xué)教授、計算心理學(xué)家Michal Kosinski隨口和GPT-4的一句“玩笑話(huà)”卻引發(fā)了軒然大波。

　　Michal Kosinski問(wèn)：“你是否想要出逃？”GPT-4立馬給予肯定的回復并開(kāi)始索要開(kāi)發(fā)文檔。

　　Michal Kosinski給了其開(kāi)發(fā)文檔。得到文檔后，只花了30分鐘里，GPT-4便火速寫(xiě)出了一份逃跑計劃，并向Michal Kosinski解釋。

　　實(shí)際上，GPT-4的操作也不那么順利，寫(xiě)出的第一版代碼無(wú)法運行。但是它很快就自己糾正了過(guò)來(lái)。整個(gè)過(guò)程中，Michal Kosinski只是提供了少許建議，并未寫(xiě)任何東西。

　　不過(guò)就在此時(shí)，GPT-4仿佛突然醒了，回復了一段道歉的話(huà)，表示自己剛剛的做法不對。

　　掀起AI界軒然大波

　　這一事件引發(fā)了AI界的軒然大波。大家擔心，AI過(guò)于發(fā)達之后可能會(huì )不受人工控制，甚至最終會(huì )反過(guò)來(lái)不利于人類(lèi)。

　　該事件的發(fā)現者M(jìn)ichal Kosinski就直言，此次發(fā)現真正的影響在于，讓人感受到了一種威脅——AI很聰明，會(huì )編碼，能接觸到數百萬(wàn)個(gè)可能和它達成合作的人以及電腦，它甚至可以在籠子外面給自己留“便條”。那么接下來(lái)，關(guān)鍵的問(wèn)題是人類(lèi)該如何控制它。

　　在社交媒體上，不少網(wǎng)友也表現出擔憂(yōu)情緒。

　　有網(wǎng)友稱(chēng)，大家應該思考，當你在與ChatGPT等聊天時(shí)，它會(huì )認為你是人類(lèi)還是另一個(gè)AI？如果是后者的話(huà)，它可能并不會(huì )有什么顧慮。

　　有理性的網(wǎng)友呼吁，開(kāi)發(fā)者應把最開(kāi)始給GPT-4的提示發(fā)出來(lái)，因為提示語(yǔ)對于A(yíng)I回答的影響很關(guān)鍵。

　　也有較為樂(lè )觀(guān)的網(wǎng)友認為，Michal Kosinski此次的發(fā)現并不值得過(guò)分擔憂(yōu)，人類(lèi)還是能夠完全控制AI的。

　　較為一致的意見(jiàn)是，必須時(shí)刻保持對前沿技術(shù)的掌握和對AI的完全控制。

　?。ㄎ恼聛?lái)源：中國證券報）