On Intelligence

上週四（6/15）經過書街，不小心發現此書，瀏覽之下，驚為天人，二話不說，（當下放棄原本採購 LCD 螢幕的計畫）抱一本回去好好端詳先。

竟然還是洪蘭譯的。哎呀！怎麼以前沒發現這本？哦，原來是今年才上架的。雖稍感安慰，但內心還是怪自己太久沒 update 這方面的資訊了。

有趣的是，作者就是那位發明 PalmPilot 的 Jeff Hawkins；更讓人意外的，這本書還有 Watson 及 Kandel 這兩位諾貝爾生醫獎得主推薦。

• 註一：Watson 於 1953 年和 Crick 共同發現 DNA 雙螺旋結構，是上個世紀生物學最大的發現。
• 註二：Kandel 是神經科學的權威，也因為突觸變化的效應及其改變如何影響記憶及學習方面的研究，榮獲 2000 年的諾貝爾獎，他寫了幾本 Bible 級的書，跟人合著的《透視記憶》也很值得一讀。
• 註三：Crick 在得到諾貝爾獎後，將心力整個投入腦神經科學的研究，寫了一本科普書《驚異的假說》，啟迪了許多人相繼投入該領域的研究。

中譯《創智慧》，原文《On Intelligence》，作者 Hawkins 提出一套大腦新皮質（neocortex）運作的理論：

Hawkins 很賞識 Venon Mountastle (1978) 發表的〈An Organizing Principle for Cerebral Function〉，並推崇該論文為神經科學的 Rosetta Stone 。Mountastle 論文中總結說：整個皮質有著共同的功能、共同的計算規則，並且這些是由整個皮質各區域來執行。「視覺跟聽覺沒有差別，聽覺又跟動作的產生沒有差別。」 我們的基因決定大腦的區域間該怎麼連結，這在功能上或物種間有很大的特異性，但是皮質組織本身無論在何處都在做同樣的事。[p81]

「百步算則」（one hundred-step rule）[p99] 告訴我們，人們在一張照片辨認一隻貓的不到半秒的時間內，訊息只可能走了一百個神經元的長度而已（每個神經元要耗掉 5 ms）。而現代的數位電腦需要幾十億的步驟才能做完這件事 。造成這巨大差異最主要的原因是「人腦並不去『計算』問題的答案，它是將答案從儲存處提取出來」。

Hawkins 強調，大腦不是電腦，而是個記憶系統，用來儲存經驗。這些經驗是種途徑，可以反映世界的真實結構，記憶一連串的事件和它們錯雜的關係，然後利用「記憶」來進行「預測」。

這就是「記憶－預測系統」（memory-prediction system）。記憶－預測系統是智慧（intelligence）、洞察（perception）、創造（creativity），及事件知覺（event consciousness）的基礎。

Hawkins 還強調，新皮質的記憶跟電腦的記憶至少有四個基本的差異：

• 新皮質儲存的是序列的型態（sequeuces of patterns）。
• 新皮質是自體連結的（auto-associatively）回憶出型態。
• 新皮質是以不變的結構形式（invariant form）儲存型態。
• 新皮質以階層性（hierarchy）儲存型態。

第六章〈皮質如何運作〉是本書的精華，也是我費最多時間閱讀的部份：

• 你的皮質（cortex）必須有一套方法，以記住過去事件的序列並儲存起來；要能對新奇的事件作預測，皮質必須形成不變的表徵（invariant representations）。你的皮質需要創造及儲存外在世界的模式（model），這個模式必須獨立於你周遭不斷變化的情境送進來的型態（pattern）。 [p147]
• 當你開始瞭解大腦的核心功能是作預測（prediction）時，就需要將回饋（feedback）加到你的模式中，大腦必須能將訊息送回一開始接受輸入的區域，因為作預測需要比較「現在正發生的」以及「預期將發生的」：現在正在發生的是「向上送的輸入」，預期要發生的是「向下流的預測」。 [p154]
• 整個皮質、所有的感覺皮質及聯結區都是一體的。 [p161]
• 運動皮質就像感覺皮質，所以皮質處理往下流動的感覺預測，就像它處理往下流動的運動指令一樣。 [p162]
• 皮質的每一區都形成不變的表徵（invariant representations）。 [p165]
• 皮質的階層結構儲存了外在世界的階層結構模式，而構築真實世界的結構就反映在構築皮質的階層性上。 [p167]
• 你對你家的記憶並非儲存在大腦皮質的某一區上，它是存在皮質的階層性中，反映出的正是你家的階層結構。大規模的關係儲存在階層的頂端，小規模的關係儲存在底端，階層性存在於外界及大腦之中。 [p168]
• 你對外界物體的經驗會產生一個序列，這個序列反應出外面世界的不變性，你所經驗到的世界各個部份的順序是由世界的結構所決定的，……你對外界經驗的順序正是世界真正的結構，這也是皮質真正想記住的。 [p180]
• 上行皮質階層是彙集型態，下行皮質階層是擴散型態，透過視丘（thalamus）的延拓回饋…… [p190]
• 在你學習一個序列前，你可以傳遞細節；一旦習得了序列，能成功預測哪個神經柱將活化後，就應該只傳遞固定的型態。 [p195]
• 知覺和行為是一體兩面。……運動行為也必須有一個不變表徵的階層結構。 [p203]
• 觀察到的型態向高階傳送，而預測往低階流動。 [p206]
• 學習的兩個基本成分是「型態分類」以及「建立序列」 ……將同一物體各個型態部份結合起來的方式之一，是將時間上連續發生的型態放在一起。 [p212]
• 海馬迴（hippocampus）是新皮質最上端的組織，並非分離的結構。 [p217]
• ……

在閱讀的過程中，不禁想起《Artificial Minds》第十四章有一段這樣的對話：

Q1) What is cognition?
Ans. Enaction: a history of structural coupling that brings forth a world.

Q2) How does it work?
Ans. Through a network consisting of multiple levels of interconnected, sensorimotor subnetworks.

Q3) How do I know when a cognitive system is functioning adequately?
Ans. When it becomes part of an ongoing existing world (as the young of every species do) or shapes a new one (as happens in evolutionary history).

在我看來， Hawkins 提出的 memory-prediction framework 就是大腦執行 structural coupling 的方法。

Francisco 在接受《第三種文化》採訪時也提到：

整個說來，生物的認知不應該當成是表徵外在的世界，應該想成是持續不斷地在「產生」世界，而憑藉的唯一歷程就是生存本身。 [p240]

當初覺得這段話太過抽象，如今再次玩味，頓時具體起來。

如果你 K 完書後還意猶未盡，《On Intelligence》已有自己的首頁及論壇。論壇中，可以看到幾篇有趣的討論：

• Best way to simulate the Memory-Prediction Framework
• Dileep George's mathematical model

在神經科學方面， Hawkins 創立了 Redwood Neuroscience Institute, RNI 專門研究新皮質（neocortex）。

在電腦實務上， Hawkins 也成立了 Nemunta, Inc. ，利用新皮質運作的原理，發展新型的電腦記憶系統。讓人興奮的是該機構提出了 Hierarchical Temporal Memory, HTM，並釋出了 HTM 的白皮書，有興趣的，可以共襄盛舉。

其他重要的連結：

• Mission and Research -- RedwoodCenter
• Dileep's Vision Research Page
• Multivalued Logic NNs

一些沒有直接相關的連結：

• Temporal Intelligence
• KnowmTech LLC
• Frog Nuron Num
• Neural network models of chemotaxis in the nematode Caenorhabditis elegans

Tags: [book] [review] [brain] [neocortex] [memory] [prediction] [invariant] [hierarchy] [pattern] [memory-prediction] [HTM] [AI]