9 月 17 日消息，圭多?賴希施塔特（Guido Reichstadter）已絕食 17 天，他表示自己目前狀態(tài)尚可，只是行動稍緩，但并無大礙。
據(jù) TheVerge 報道，自 9 月 2 日起，賴希施塔特每天都會出現(xiàn)在人工智能初創(chuàng)公司 Anthropic 的舊金山總部外，從上午 11 點左右一直堅守到下午 5 點。他手持的黑板標語上寫著“絕食抗議：第 15 天”，但事實上，他從 8 月 31 日就已停止進食。這條標語向 Anthropic 提出訴求：“停止通用人工智能（AGI）競賽”。所謂通用人工智能，指的是具備與人類相當甚至超越人類認知能力的人工智能系統(tǒng)。
IT之家注意到，通用人工智能一直是科技公司 CEO 們熱衷的“戰(zhàn)斗口號”，無論是大型科技企業(yè)還是初創(chuàng)公司的領導者，都在競相爭奪這一具有主觀性的里程碑。但在賴希施塔特看來，這些公司完全沒有正視通用人工智能帶來的生存風險。“這些前沿企業(yè)的目標，都是研發(fā)出具備人類水平、甚至超越人類水平的通用人工智能系統(tǒng)，也就是超級智能，”他在接受采訪時表示，“我認為這種行為極其瘋狂，充滿風險，而且是極大的風險。我認為現(xiàn)在必須立刻停止。”在他看來，絕食抗議是吸引人工智能領域領導者關注的最直接方式。而如今，持這種想法并采取行動的并非他一人。
賴希施塔特提到了 2023 年 Anthropic 首席執(zhí)行官達里奧?阿莫代（Dario Amodei）的一次采訪，他認為這次采訪充分體現(xiàn)了人工智能行業(yè)的魯莽。阿莫代當時表示：“我認為，人工智能技術發(fā)展導致人類文明遭遇災難性后果的概率，可能在 10% 到 25% 之間。”阿莫代及其他行業(yè)人士認為，通用人工智能的發(fā)展是不可避免的，他們聲稱自己的目標只是成為“盡可能負責任的守護者”。但在賴希施塔特眼中，這種說法是“虛構的謊言”，也是“自私自利的借口”。
在賴希施塔特看來，企業(yè)有責任避免研發(fā)可能對大規(guī)模人群造成傷害的技術；而任何了解這一風險的人，也都肩負著一定的責任。
“我現(xiàn)在所做的一切，本質(zhì)上就是在履行自己的責任。我只是一個普通公民，但我尊重同胞們的生命與福祉，也關心我的國家民眾，”他說，“更何況，我還有兩個孩子。”
截至目前，Anthropic 尚未對置評請求作出回應。
賴希施塔特表示，每天在 Anthropic 總部外準備抗議時，他都會向公司的安保人員揮手致意；而當 Anthropic 的員工路過時，大多會刻意避開他的目光。不過他提到，至少有一名員工向他表達了類似的“災難性風險擔憂”。他希望能激勵人工智能公司的員工“有勇氣像人一樣行動，而非公司的工具”，因為他們肩負著更重大的責任，畢竟“他們正在研發(fā)的是地球上最危險的技術”。
在人工智能安全領域，無數(shù)人都與他有著同樣的擔憂。該領域的圈子相對分散，對于人工智能長期來看可能帶來的具體風險，以及如何有效防范這些風險，存在諸多分歧，就連“人工智能安全”這一術語本身，也充滿爭議。但大多數(shù)人能達成共識的一點是：人工智能當前的發(fā)展方向，對人類而言并非好兆頭。
賴希施塔特透露，大約 25 年前上大學時，他第一次了解到“人類水平人工智能”的潛在可能，當時他覺得這一技術還十分遙遠。但 2022 年 ChatGPT 發(fā)布后，他開始高度關注這一領域。他特別擔憂的是，在他看來，人工智能正在加劇美國的威權主義傾向。
“我關心我們的社會，”他說，“我關心我的家人，關心他們的未來。我擔心人工智能的發(fā)展會對他們產(chǎn)生影響。我擔心人工智能的應用缺乏倫理約束。同時，我也擔心有充分理由相信，人工智能不僅帶來災難性風險，甚至可能威脅人類的生存。”
近幾個月來，為了讓科技領域的領導者關注這一他認為至關重要的議題，賴希施塔特采取了一系列越來越公開的行動。他此前曾與一個名為“停止人工智能”（Stop AI）的組織合作，該組織致力于“永久禁止超級智能人工智能系統(tǒng)，以防止人類滅絕、大規(guī)模失業(yè)及其他諸多問題”。今年 2 月，他與該組織的其他成員一同將 OpenAI 舊金山辦公室的門鎖住，包括他在內(nèi)的數(shù)人因妨礙公共秩序被警方逮捕。
9 月 2 日，賴希施塔特通過 Anthropic 的安保前臺，向阿莫代遞交了一封手寫信件；幾天后，他將這封信公之于眾。信中要求阿莫代停止研發(fā)“自己無法掌控的技術”，并盡自己所能在全球范圍內(nèi)阻止人工智能競賽；若阿莫代不愿這么做，需向他說明理由。賴希施塔特在信中寫道：“為了我的孩子，也因為深知當前局勢的緊迫性與嚴重性，我已在 Anthropic 辦公室外開始絕食抗議…… 等待您的回應。”
“我希望他能有最基本的禮貌，回應我的請求，”賴希施塔特表示，“我認為這些（人工智能公司的領導者）從未真正受到過個人層面的質(zhì)問。匿名地、抽象地‘思考自己的工作可能導致大量人員死亡’，與‘面對一位可能因自己的工作而受害的人，以人的身份向?qū)Ψ浇忉屧?rsquo;，完全是兩碼事。”
在賴希施塔特發(fā)起這場和平抗議后不久，兩名受他啟發(fā)的人在倫敦發(fā)起了類似行動，持續(xù)在谷歌 DeepMind 總部外抗議；另有一人在印度加入抗議行列，并通過直播記錄自己的絕食過程。
邁克爾?特拉齊（Michael Trazzi）參與了倫敦的絕食抗議，7 天后因兩次險些暈倒，并在咨詢醫(yī)生后選擇停止絕食，但他仍在支持另一名抗議者丹尼斯?舍雷梅特（Denys Sheremet），舍雷梅特目前已絕食 10 天。特拉齊與賴希施塔特一樣，對人工智能持續(xù)發(fā)展背景下人類的未來感到擔憂，但兩人都不愿將自己歸為某一特定團體或組織的成員。
特拉齊表示，自 2017 年起，他就開始思考人工智能的風險。他給 DeepMind 首席執(zhí)行官德米斯?哈薩比斯（Demis Hassabis）寫了一封信，不僅公開發(fā)布，還通過中間人轉(zhuǎn)交。
信中，特拉齊請求哈薩比斯“從今天起，為協(xié)調(diào)未來暫停超級智能研發(fā)邁出第一步，公開聲明：若西方及中國的所有其他主要人工智能公司均同意暫停前沿人工智能模型的研發(fā)，DeepMind 也將同意暫停。一旦所有主要公司均同意暫停，各國政府便可推動達成國際協(xié)議，以強制落實這一決定。”
特拉齊在接受采訪時表示：“如果不是因為人工智能存在極大危險，我不會如此支持監(jiān)管。但我認為…… 世界上有些事物，其發(fā)展動力在默認情況下會走向錯誤方向。而人工智能領域，確實需要監(jiān)管。”
谷歌 DeepMind 傳播總監(jiān)阿曼達?卡爾?普拉特（Amanda Carl Pratt）在一份聲明中表示：“人工智能領域發(fā)展迅速，人們對這項技術難免有不同看法。我們堅信，人工智能有潛力推動科學進步，改善數(shù)十億人的生活。在我們構建‘人類從技術中受益、同時免受風險侵害’的未來過程中，安全、保障與負責任的治理始終是我們的首要任務，過去如此，現(xiàn)在亦然。”
特拉齊在社交平臺 X（原推特）上發(fā)帖稱，這次絕食抗議引發(fā)了他與眾多科技公司員工的討論。他提到，一名 Meta 員工問他：“為什么只針對谷歌的人？我們也在做重要的工作，我們同樣身處這場競賽之中。”
他還在帖文中表示，一名 DeepMind 員工稱，人工智能公司“可能不會發(fā)布可能造成災難性傷害的模型，因為機會成本太高”；而另一名 DeepMind 員工則“承認自己認為人工智能導致人類滅絕的可能性很大，但仍選擇在 DeepMind 工作，因為該公司仍是最注重安全的企業(yè)之一”。
目前，賴希施塔特致阿莫代的信、特拉齊致哈薩比斯的信均未收到回應（谷歌也拒絕回答 The Verge 提出的“哈薩比斯為何不回信”的問題）。但兩人仍抱有希望，認為他們的行動能換來對方的認可、一場會面，最理想的情況是，這些公司的 CEO 能承諾改變當前的發(fā)展方向。
在賴希施塔特看來：“我們正處于一場不受控制、可能走向災難的全球競賽中。若想找到出路，就需要人們愿意說出真相，承認‘我們無法掌控這一切’，并主動尋求幫助。”