For example, the finding appears to support the emerging hypothesis that parts of the brain operate at a 「critical point,」 where every neuron influences the network as a whole. In physics, renormalization is performed mathematically at the critical point of a physical system, explained Sejnowski, a professor at the Salk Institute for Biological Studies in La Jolla, Calif. 「So the only way it could be relevant to the brain is if it is at the critical point.」
——Deep Learning Relies on Renormalization, Physicists Find
臨界現象中有許多有趣的性質,例如在臨界點附近隨著體系尺寸的增大,關聯長度也會增大,同時對擾動的弛豫時間變得無限長等等,這些性質在簡單的物理體系中只有在臨界點附近才存在,但是這些性質對生物體系來說卻是非常自然的。鳥群、昆蟲群、細菌團簇、我們的大腦都表現得就如同處在臨界點附近(大家可以參考:Physics - Viewpoint: The Critical Brain,Physics - Viewpoint: Insect Swarms Go Critical)。以昆蟲的運動為例,一種昆蟲的體長不過是毫米級,蟲間距也是這一數量級,但在一個昆蟲群體中,蟲與蟲之間的關聯長度卻可以達到半米長左右,這是它們體長的數百倍,這種現象即為生物體系中的臨界現象。生物體系似乎是在臨界點附近被組織起來的,這種臨界現象對生物系統的好處在於它可以維持群體的存在和穩定,但又讓群體不至於過於剛性,它保證了生物系統適應各種不同的環境(面對各種來自不同方向的天敵,在整個群體中產生反應,這也類似一個無監督學習的過程)。對大腦而言,這種「臨界性」正反映了某種穩定性(記憶)和可塑性(學習)的平衡。
大腦中的臨界性從被發現到現在已經有了十多年的歷史(J Beggs, D Plenz 2003),而這些關於深度學習與重正化群進行聯系的方法,讓深度學習的演算法真的(或者似乎是真的)從臨界性的角度建立起了某種與生物體系的聯系,這種可以與重正化群對應起來的深度學習方法,很可能就是(或者某種意義上接近於)我們大腦在解決某些問題時的原理。