2025年10月23日 星期四

師法線蟲大腦(我們與機器人的光明未來)

羅斯是全球第一流的機器人專家和夢想家,透過專業作家莫恩的筆,生動介紹了當今最有前瞻性的尖端科技。如今,一場劃時代的機器人革命正在進行,羅斯也提出了對策,要讓機器人的力量用於為人服務,為每個人打造更美好、更令人興奮的未來。本篇只介紹「師法線蟲大腦」。

研究界正極力解決機器學習的不足之處,包括:脆弱性、規模龐大、大量運算需求、缺乏可解釋性和偏誤。我與友人暨維也納科技大學電腦料學家葛羅蘇以及我們的學生,一起深入思考這些問題,其中一個想法是徹底重新設計標準的機器學習模型。

我們受到生物學家的研究啟發,他們繪製了秀麗隱桿線蟲等小型動物的腦部活動圖,最終讓我們設計出全新、簡潔且可解釋的模型,稱為液體網路(liquid network)。

首先,讓我們來看看這種小蟲,秀麗隱桿線蟲長久以來一直是科學研究的明星,大腦只有302個神經元,人類則擁有860億個神經元,而傳統的深度神經網路有數十萬或甚至數百萬個人工神經元。然而,雖然線蟲大腦看似簡單,但仍然能覓食、繁殖和四處移動,它們倚賴302個神經元,依然過著美好生活!

我們在探究現有的線蟲大腦研究成果時得知,生物學家發現每個神經元其實都在執行非常複雜的數學運算,相當於在計算微分方程。沒錯,秀麗隱桿線蟲的神經元會做基本的微積分計算!

目前,人工神經網路會接收不同值的輸入,將它們加權加總,然後根據總和,生成較簡單的輸出。如果計算結果低於某個值,它可以可能會輸出0,反之就輸出1。雖然這在數學上很簡單,但是每個模型都有大量這樣的神經元,而它們之間的連結數量在大型模型中可能高達數百萬條,所以這些系統需要大量的算力,存在著大量冗餘、效率低下。

我希望你能理解我想表達的概念:標準人工神經網路的神經元只會執行基本的算術,這些人工神經元會進行加法,並產生相應的輸出,想當然耳,這不是微積分。於是我們心想,假如我們設計一個人工大腦,讓其中的神經元懂得微積分,還能計算生物學家在線蟲中發現的各種函數呢?這樣一來,人工神經元的數量會減少,但各個神經元的功能會更強大。

我和葛羅蘇帶領的團隊基於這樣的想法,設計了一種新型的AI,結果相當令人振奮。我們的解決方案稱為「液體網路」,其中每個神經元都包含了一個微分方程。這個微分方程具有可根據接收到的資訊來調整的變量或「液體」時間常數,因此,整個液體網路可從神經元層面上進行動態調整,使得網路能隨著經歷的不同而自我優化。

我們發現,其實並不需要讓人工神經元計算更高階的微積分,我們成功導出了,不需使用常微分方程計算器的閉合近似解,而且液體網路在規模和運算需求上,明顯小得多。

神經元減少但更強大,這也帶來了新的能力。由於液體網路訓練後,能根據接收到的資訊改變參數,因此能適應新環境,並理解因果關係,意味著它們會著重於完成特定任務所需的關鍵要素,而非著重於任務的背景或脈絡。

直觀來說,液體網路駕駛車輛時,鮮少會在直路上取樣或搜尋環境細節,但在蜿蜒的道路上則會非常頻繁的這樣做。這是多數機器人大腦無法做到的。就像人在學習開車時,當有車道線,我們應該會在這些線內行駛,若無車道線,便沿著道路直行或轉彎。若我們是老練的駕駛,就會忽略遠處的樹木或建築物。

為了顯示其差異,我們比較了使用深度學習模型和液體網路的駕駛模擬情境。比起深度神經網路模型超過100,000個神經元,液體網路雖然只有19個神經元,但這個人工神經元能夠觀察人類如何駕駛,進而學會如何操控方向盤。

基本上,液體網路透過自學,建立了方向操控與道路彎曲度之間的關聯,並學會避開障礙物。此外,我們發現液體網路駕駛車輛時,主要專注於道路的地平線和兩側,但深度學習模型的注意力較分散,它們將焦點放在樹木、天空和道路上,表現得更像是個心不在焉的駕駛。

結語

我會分享這篇文章,主要是想提醒大家多多關注類似「液體網路」學習模型的發展。因為若將來類似「液體網路」的模型發展起來,那麼大型資料運算中心的投資可能就會放緩。這時我們對AI的投資佈局,可能就要從大型雲端運算,轉移到邊緣運算或終端的新智慧應用了。


有關書籍的介紹,請參考:作者、出版社、內容簡介

更多的理財書目,請參考:汪汪書架的書–理財書籍