日期:2023/05/03  

「AI教父」辛頓。（路透社）

人工智慧先驅退出谷歌以警告該技術的“危險”

作者：詹妮弗·科恩

AI pioneer quits Google to warn about the technology’s ‘dangers’

By Jennifer Korn

9:35 AM EDT, Tue May 2, 2023

AI pioneer quits Google to warn about the technology's 'dangers'

紐約美國有線電視新聞網

New YorkCNN — 

Geoffrey Hinton, who has been called the ‘Godfather of AI,’ confirmed Monday that he left his role at Google last week to speak out about the “dangers” of the technology he helped to develop.

被稱為“人工智慧教父”的傑佛瑞·辛頓（Geoffrey Hinton）週一證實，他上周離開了穀歌的職位，公開談論他幫助開發的技術的“危險”。

Hinton在神經網路方面的開創性工作塑造了人工智慧系統，為當今的許多產品提供動力。他在穀歌兼職工作了十年，致力於這家科技巨頭的人工智慧開發工作，但此後他開始對這項技術以及他在推進這項技術中的作用感到擔憂。

 

“我用正常的藉口安慰自己：如果我沒有這樣做，其他人就會這樣做，”辛頓告訴紐約時報，這是第一個報導他的決定的人。

 

在週一的一條推文中，辛頓表示，他離開穀歌是為了自由談論人工智慧的風險，而不是因為想專門批評穀歌。

 

“我離開是為了我可以談論人工智慧的危險，而不考慮這對穀歌的影響，”Hinton在一條推文中說。“谷歌的行為非常負責任。

谷歌首席科學家傑夫·迪恩（Jeff Dean）表示，Hinton“在人工智慧方面取得了基礎性突破”，並對Hinton“在穀歌十年的貢獻”表示讚賞。

“我們仍然致力於對人工智慧採取負責任的態度，”迪恩在提供給CNN的一份聲明中說。“我們不斷學習瞭解新出現的風險，同時也大膽創新。

Hinton決定退出公司並就該技術發表意見之際，越來越多的立法者，宣導團體和技術內部人士對新的人工智慧聊天機器人傳播錯誤資訊和取代工作的潛力發出警告。

去年年底圍繞ChatGPT的關注浪潮幫助科技公司重新開始軍備競賽，在其產品中開發和部署類似的AI工具。OpenAI、微軟和穀歌處於這一趨勢的最前沿，但IBM、亞馬遜、百度和騰訊也在開發類似的技術。

今年4月，一些科技界知名人士簽署了一封信，呼籲人工智慧實驗室停止訓練最強大的人工智慧系統至少六個月，理由是“對社會和人類的嚴重風險”。這封信由埃隆·馬斯克（Elon Musk）支援的非營利組織未來生命研究所（Future of Life Institute）發佈，就在OpenAI宣佈GPT-4兩周後，GPT-<>是ChatGPT技術的一個更強大的版本。在早期測試和公司演示中，GPT-<> 用於起草訴訟、通過標準化考試以及從手繪草圖構建工作網站。

在接受《紐約時報》採訪時，Hinton回應了對人工智慧消除就業機會的潛力的擔憂，並創造了一個許多人“無法再知道什麼是真實的世界”。他還指出了驚人的進步速度，遠遠超出了他和其他人的預期。

“這些東西實際上可以比人更聰明的想法 - 有些人相信這一點，”Hinton在採訪中說。“但大多數人認為這太離譜了。我以為這太離譜了。我以為還有30到50年甚至更長的時間。顯然，我不再這麼認為了。

甚至在離開穀歌之前，Hinton就已經公開談到了人工智慧既有弊也有利的潛力。

“我相信人工智慧的快速發展將以我們不完全理解的方式改變社會，並非所有影響都會很好，”Hinton 在孟買印度理工學院 2021 年的畢業典禮上說。他指出，人工智慧將如何促進醫療保健，同時也為致命的自主武器創造機會。“我發現這種前景比機器人接管的前景更直接，更可怕，我認為還有很長的路要走。

Hinton並不是第一個在人工智慧問題上發出危險信號的穀歌員工。7月，該公司解雇了一名工程師，該工程師聲稱未發佈的人工智慧系統已經變得有知覺，稱他違反了就業和資料安全政策。人工智慧社區中的許多人強烈反對工程師的斷言。