日前，已經(jīng)有超過(guò)350名人工智能行業(yè)的人士聯(lián)合簽署了22字簡(jiǎn)潔聲明。

多位頂級(jí)AI研究人員、工程師和首席執(zhí)行官就AI對(duì)人類構(gòu)成的生存威脅發(fā)出了最新警告：“減輕人工智能帶來(lái)的滅絕風(fēng)險(xiǎn)應(yīng)該與流行病和核戰(zhàn)爭(zhēng)等其他社會(huì)規(guī)模的風(fēng)險(xiǎn)一起成為全球優(yōu)先事項(xiàng)。”

當(dāng)?shù)貢r(shí)間5月30日，這份只有22個(gè)單詞的聲明發(fā)布在非營(yíng)利組織人工智能安全中心（Center for AI Safety）的網(wǎng)站上。該網(wǎng)站表示：人工智能專家、記者、政策制定者和公眾越來(lái)越多地討論人工智能帶來(lái)的重要和緊迫的廣泛風(fēng)險(xiǎn)。即便如此，也很難表達(dá)對(duì)先進(jìn)人工智能的一些最嚴(yán)重風(fēng)險(xiǎn)的擔(dān)憂。下面的簡(jiǎn)潔聲明旨在克服這一障礙并展開討論。它還旨在為越來(lái)越多的專家和公眾人物提供常識(shí)，他們也認(rèn)真對(duì)待先進(jìn)人工智能的一些最嚴(yán)重風(fēng)險(xiǎn)。

超過(guò)350名從事人工智能工作的人士簽署了這份聲明。簽署者包括Google DeepMind首席執(zhí)行官戴米斯·哈薩比斯（Demis Hassabis）、OpenAI首席執(zhí)行官山姆·奧特曼（Sam Altman）、“AI教父”杰弗里·辛頓（Geoffrey Hinton）和約書亞·本希奧（Youshua Bengio）等，辛頓和本希奧因其在AI方面的工作獲得了2018年圖靈獎(jiǎng)，一同獲得該獎(jiǎng)項(xiàng)的AI大牛、Meta首席人工智能科學(xué)家楊立昆（Yann LeCun）尚未簽名。

其中一些簽署者，在今年早些時(shí)候簽署了另外一封公開信，呼吁“暫?！遍_發(fā)比GPT-4更高級(jí)的AI至少6個(gè)月，這封信在多個(gè)層面受到批評(píng)，一些專家認(rèn)為它夸大了人工智能帶來(lái)的風(fēng)險(xiǎn)，而一些人則贊同存在這種風(fēng)險(xiǎn)，但不同意信中建議的措施。

人工智能安全中心執(zhí)行主任丹·亨德里克斯（Dan Hendrycks）告訴《紐約時(shí)報(bào)》，5月30日的聲明很簡(jiǎn)潔，沒有提出任何減輕人工智能威脅的潛在方法，旨在避免這種分歧。 “我們不想推動(dòng)包含30種潛在干預(yù)措施的龐大菜單?！焙嗟吕锟怂拐f(shuō)，“當(dāng)這種情況發(fā)生時(shí)，它會(huì)淡化（想傳達(dá)的）信息。”