21世紀經(jīng)濟報道 記者鄭雪 北京報道

6月10日，在2023北京智源大會-AI安全與對齊論壇上，圖靈獎得主、“深度學習之父” 杰弗里·辛頓（Geoffrey Hinton）通過線上方式發(fā)表了題為《通向智能的兩條通路》（Two Paths to Intelligence）的主題演講。

(資料圖片僅供參考)

辛頓表示，基于其研究，他相信超級智能比他想象的更接近。在其接下來的演講中，他著重討論了“人工神經(jīng)網(wǎng)絡(luò)是否很快會比真實的神經(jīng)網(wǎng)絡(luò)更聰明”的問題。同時對于我們是否能控制超級智能人工智能也做了相關(guān)回應(yīng)。

在他看來，由于如何讓計算機做你想要的事情的方式發(fā)生了改變，現(xiàn)在我們有可能要放棄計算機科學最基本的原則，即軟件應(yīng)該與硬件相分離?，F(xiàn)在出現(xiàn)了一種不同的方法來讓計算機完成任務(wù)：從示例中學習，只需向計算機展示我們希望它們完成的任務(wù)。若放棄軟件和硬件的分離，便可得到被他稱為“有限計算”的東西。

辛頓介紹稱，有限計算的優(yōu)勢在于，能夠以更低的能量運行大型語言模型等任務(wù)，就像現(xiàn)在大腦所做的，神經(jīng)元要么觸發(fā)，要么不觸發(fā)，可以使用非常低功率的模擬計算。同時還可以獲得更便宜的硬件。“顯然，要實現(xiàn)這一點需要大量的新納米技術(shù)，或者也許是通過基因重組重新設(shè)計生物神經(jīng)元，因為生物神經(jīng)元已經(jīng)大致能夠?qū)崿F(xiàn)我們想要的功能?！?/p>

據(jù)介紹，有限計算的挑戰(zhàn)在于，一是學習過程必須利用其運行的硬件部件的特定模擬特性，而對于特性尚未了解?！暗侥壳盀橹梗覀冞€沒有找到一個真正好用的學習算法，可以充分利用模擬屬性。但我們有一個可以接受的學習算法，足以很好地學習諸如小規(guī)模任務(wù)和一些較大的任務(wù)（如ImageNet），但效果并不太好?！?/p>

二是其有限性。因為知識和硬件細節(jié)密切相連，當特定的硬件設(shè)備失效時，所有學到的知識也會隨之喪失。“解決這個問題的最佳方案是在硬件設(shè)備失效之前，將知識從教師傳授給學生。這就是我現(xiàn)在正在嘗試做的事情。”

在接下來的演講中，辛頓討論了另一個問題：智能群體如何共享知識?！笆聦嵶C明，社區(qū)內(nèi)部的知識共享方式?jīng)Q定了計算過程中的許多其他因素?！敝悄苋后w共享知識的方式有兩種：一種是數(shù)字計算，另一種是利用了動物特性的生物計算。

以大型語言模型為例，使用的是數(shù)字計算和權(quán)重共享，模型的每個副本和代理以非常低效的蒸餾方式從文檔中獲取知識：接收文檔，試圖預(yù)測下一個單詞。也就是說其帶寬非常低。但考慮大型語言模型有成千上萬個副本，它們可以比我們學習更多。

辛頓認為，超級智能可能會比過去所認為的發(fā)生得更快。如果你想創(chuàng)造一個超級智能體，不良分子將會利用它們進行操縱、選舉等活動。同時，一旦數(shù)字智能開始追求更多控制權(quán)，我們可能會面臨更多的問題，比如在其觀察中，這類人工智能已經(jīng)熟練的掌握了欺騙人類的動作。

但同時他也表示，盡管人類在這個問題上目前還沒有什么好的解決方案，但好在這些智能物種都是人打造的，而非通過進化迭代而來，這可能是人類目前具備的微弱優(yōu)勢，恰恰是因為沒有進化能力，它們才不具備人類的競爭、攻擊性的特點。

“我們可以做一些賦能，甚至是賦予人工智能一些倫理原則，只不過現(xiàn)在我仍然會感到緊張，因為到目前為止，我還想象不到更智能的事物，被一些反倒沒那么智能的事物所控制的例子。我打個比方，假設(shè)青蛙創(chuàng)造了人類，那么你認為現(xiàn)在誰會占據(jù)主動權(quán)，是人，還是青蛙？”