在業內有“人工智能教父”之稱的計算機科學家杰弗里·辛頓（Geoffrey Hinton）周一在社交媒體上證實，他上周已經離開谷歌。辛頓在過去的十多年里幫助谷歌開發AI技術，但他現在成為了人工智能最新的“末日預言者”。

辛頓在Twitter上澄清，離開谷歌并不是為了批評谷歌。“實際上，我離開是為了談論人工智能的危險，而不用去考慮這對谷歌有何影響。”他寫道，“谷歌的行為非常負責任。”

(資料圖片僅供參考)

無法防止壞人利用AI做壞事

辛頓坦言他對人工智能的擔憂，并說道：“現在似乎還很難看到如何能夠防止壞人利用人工智能來做壞事。”

辛頓在神經網絡方面的開創性工作塑造了為當今許多產品提供動力的人工智能系統。由于對神經網路研究的貢獻，辛頓與法國計算機科學家楊立昆（Yann LeCun）、加拿大計算機科學家約書亞·本希奧（Yoshua Bengio）共同獲得了2018年的圖靈獎。

去年年底，以微軟、谷歌為代表的科技巨頭公司圍繞AI大模型展開了新一輪的“軍備競賽”，IBM、亞馬遜、百度和騰訊等企業也在研究類似的技術。

隨著辛頓的離職，他以更明確的態度加入了AI批評者的行列。批評人士認為，這些科技公司積極開展基于生成式人工智能（AIGC）的產品開發活動，“這是在與危險賽跑”。

辛頓表示，他現在甚至有些后悔一生從事AI的開發工作。“我經常這樣安慰自己，就算我沒有從事這些工作，也會有別人去做。”他說道。

現年75歲的辛頓終身從事學術研究，他對人工智能的信仰推動了他的職業生涯。辛頓曾是卡內基梅隆大學的計算機科學教授，但因為不愿接受五角大樓的資助而離開大學前往加拿大。美國大多數AI項目都由國防部資助，而辛頓強烈反對在戰場上使用人工智能。

2012年，辛頓與他在多倫多的兩名學生建立了一個神經網絡公司，可以分析數千張照片并自學識別常見物體，例如花、狗和汽車。谷歌后來斥資4400萬美元收購了該公司，其中一名學生Ilya Sutskever后來成為了OpenAI的首席科學家。

辛頓長期堅信，神經網絡是機器理解和生成語言的一種強大方式，但它不如人類處理語言的方式。然而，隨著去年谷歌和OpenAI使用大量數據構建系統，誕生了Bard和ChatGPT這樣的AI聊天系統，辛頓的觀點發生了變化。盡管他仍然認為這些系統在某些方面不如人腦，但它們在其他方面可以使人類智能黯然失色。

巨頭的AI“危險游戲”可能無法停止

從AI的開創者到“末日預言者”，辛頓的離職標志著科技行業在幾十年來最重要的轉折點。人工智能行業領導者相信新的AI系統可能與上世紀90年代初引入的網絡瀏覽器一樣重要，并可以引發從藥物研究到教育等領域的顛覆式突破。

但困擾許多業內人士的是，他們擔心人工智能正在向“惡的一面”釋放“危險信號”，生成式人工智能已經可以成為散播錯誤信息的工具，并對一些工作構成威脅。而科技界最大的反對聲音則認為，AI可能在未來的某個時間點對人類構成威脅。

隨著科技巨頭公司不斷改進他們的AI系統，辛頓認為，這些系統正在變得越來越危險。“直到去年，谷歌一直被視為是人工智能技術的‘管家’，小心翼翼地不發布可能造成傷害的東西。”辛頓表示，“但現在微軟已經通過聊天機器人增強了Bing搜索引擎，并挑戰谷歌的核心業務，科技巨頭陷入了一場可能無法停止的競爭。”

今年3月，億萬富豪馬斯克聯合上千名技術領袖和研究人員簽署了一封公開信，呼吁暫停GPT模型新系統的開發，并認為AI技術將給“社會和人類帶來深遠的風險”。

辛頓并不在聯名者之列，他當時仍為谷歌供職。上個月，辛頓通知公司他要辭職，并在周四與谷歌CEO桑達爾·皮查伊（Sundar Pichai）通了電話，不過他拒絕公開討論他與皮查伊談話的細節。

皮查伊近期也在美國哥倫比亞廣播公司“60分鐘”的采訪中公開談論人工智能的倫理問題。他說道：“社會尚未為人工智能的快速發展做好準備。”他還警告稱，人工智能的后果將影響“每家公司的每一種產品”。

“所有公司的產品都將受到人工智能快速發展的影響，社會需要為已經推出的技術做好準備。”皮查伊說道，“我們的適應速度與技術發展的速度相比，似乎還不太匹配。”

他強調虛假信息、假新聞和圖像帶來的問題遠比人們想象的要大得多，它可能造成傷害。他還稱，聊天機器人有一個“黑匣子”，“在那里，你不完全理解它為什么或如何做出某些回應。”皮查伊說道。

但谷歌負責技術和社會業務的高級副總裁James Manyika回應稱：“Bard沒有知覺，也沒有自我意識，但它可以表現得很像有意識的人。”

對于辛頓的離職，谷歌首席科學家杰夫·迪恩在一份聲明中表示：“我們仍然致力于對人工智能采取負責任的態度。我們不斷學習并了解AI新出現的風險，同時也大膽創新。”

AI超過人類已不再遙遠

辛頓最擔心的是，互聯網上將充斥著虛假的照片、視頻和文字，普通人將“無法再辨別真假”。此外，辛頓還擔心人工智能技術的“未來版本”會對人類構成威脅，因為“它們經常從分析的大量數據中學習到意想不到的行為”。

“這會成為一個問題，因為如果AI系統被允許不僅可以生成自己的計算機代碼，而且實際上可以自己運行該代碼，這就會變得非常可怕。”辛頓表示。他甚至擔心有一天真正的“自主武器”會成為現實，這些“武器”就好像是戰場上的“機器人士兵”。

“這種東西實際上可以擁有比人類更聰明的想法。”他說道，“但大多數人認為這還很遙遠，我也曾認為這是30年到50年甚至更長的時間才會發生的，但顯然，我不再這么想了。”

谷歌與微軟和其他公司之間的競爭將升級為一場全球競爭，如果沒有全球的監管，這種競爭將不會停止。“最好的情況是世界領先的科學家在控制技術的方法上進行合作。我認為他們在了解人類是否能夠控制AI之前，不應該繼續擴大規模。”辛頓表示。

美國參議院多數黨領袖舒默近期發起一項針對人工智能的治理框架，并聘請了頂尖的人工智能專家進行咨詢。該計劃將側重于建立人工智能系統的透明度，并要求獨立專家在公開發布之前測試人工智能技術，并要求披露參與技術開發的人員、地點和方式。

谷歌也已經發布了一份概述“監管人工智能建議”的文件，并提出“社會必須迅速適應監管、建立起懲罰濫用人工智能行為的法律和各國之間的條約，以確保人工智能對世界安全，并確保與人類價值觀保持一致的規則”。

（文章來源：第一財經）

關鍵詞：