查看原文
其他

网络、几何与物理:层级、长程关联与局域化 | 章彦博

2017-02-01 章彦博 集智俱乐部


本文简述今年参加「集智 网络、几何与机器学习」研读营/会议的收获。会议的背景与其他感受,可见后记。

 

我认为此次会议的核心,在于「几何」。不同的学科,通过「几何」这一平台,优雅地整合到了一起。这在我看来,是最为重要的事情——科研的审美,可能有着与科研能力同等重要的地位。而「几何、网络、衍生宇宙」这些概念的优雅关联,则给出了一个非常好的典范。



先聊些其他的



 图一、庞加莱平面


在我看来,双曲几何之所以在会议中(以及实际的科研中),有着这么多优美的性质,在于下面三点:

自然的层级结构;

它是一个局域化的空间;

它是连续的。

「层级」这一概念,在自然科学中,常有提及。Anderson的《More is Different》,也明确提出了这一概念。一般的描述之中,「层级」结构,都是以网络的形式出现的。而在双曲几何之中,它将层级——一个不连续的描述,使用连续、解析的数学语言,进行表述。


图二、庞加莱平面的一种「规整」的表示,其实是五边形拼贴

此图很好地展现了双曲几何自带的层级结构。来源:James W. Cannon, William J. Floyd, Richard Kenyon, and Walter R. Parry, Hyperbolic Geometry, MSRI Publications, Volum 31, 1997.

在我看来,这是双曲几何拥有诸多性质的根源。我无意对「连续」、「离散」两种理解世界的方式作出「谁更真实」的评判,但不可否认的是:对于连续的结构,数学上有更多较为简单的工具可以处理之。 

故而在双曲几何之中,可以非常自然的产生「重整化」;从局域化的规则之中,很容易产生长程的关联。而一些基于离散空间的科学,也可以从双曲几何得到启发。

比如:近年有人使用穷举图灵机的方法,逼近一维、二维结构的Kolmogorov复杂度,并认为穷举所得的字串分布是一种「Universal Distribution」,然而很容易看出来,自然界的一些大尺度规则,其相互作用,都同时包含了局域与长程的相互作用。使用有限的图灵机来计算「Universal Distribution」,可能会产生很大的整体偏差。而若考虑运行在庞加莱平面上的图灵机(如图二),似乎可以解决这个问题。

而几何所带来的另一个启发,便是「要注意局域化」。局域化是两个限制所带来的:一是信息传递的速度限制;二是能量的限制。

信息之传递速度有限,比如真空中的光速、物质中的声速,进而,由这些信息产生的相互作用,也只在有限的区域里发生。就如光锥一样。第二个是能量的限制,全局的规则对于能量的消耗通常是很大的,比如Barabási的优先连接,意味着一个新节点几乎要了解系统所有其他节点的度(当然,如果从统计的角度理解,可以不需要知道所有节点的度)。这两个限制,都是普适且长久的。

进而,「要注意局域化」这一启示,也当是普适的。流形学习、Word2Vec、卷积神经网络,都或多或少地暗含、或直接使用了这一思想。而空间,不论是欧氏还是非欧的空间,都是实现局域化的重要「平台」。

 物理与机器学习

另一个使我印象深刻的内容,则是「机器学习-统计推断-统计物理」三者之间的紧密联系。其具体的细节,也颇为精妙,但步骤繁多,不宜在此处详述。只言其大略。

物理学的规律,其描述方式各有不同,有两种模式在这里值得注意:

一、无目的的描述;

二、有目的的描述。 

所谓「无目的」的描述,即如牛顿力学一般,F=ma,没有去追求「优化」、「最大化」、「最小化」某物。看起来很自然——「不偏不倚」,没有人为的「目的」在其中。

而所谓「有目的」的描述,则如拉格朗日力学,考虑作用量的最小化。虽然它们是等价的,但与统计推断、机器学习等其他学科的关联上,其程度是不一样的。而统计物理与统计推断最直接的关联,就是从两种描述出发:考虑一个物理过程「有目的」的描述,从而完成人所需要的目的。

顺便提一句:会议中途,曾偶尔提到「使用直接的物理过程,代替复杂计算」的思想,比如用多层光栅实现深度神经网络;用膜结构计算空间场,等方法。这些思想也非常有意思,但与上边所说不同,这里用的思想就是很直接的「等价」。


后记

这是我第二次参与集智俱乐部的线下活动,也是第二次参与学术会议。其中所需的背景知识,颇为繁多,未能全部理解(自己做的一个「知识图谱」请点击阅读原文),但也给出了我未来学习的大略方向与内容,「虽不中,亦不远矣」。

如同我开头提到的,这次会议的议题,都具有很高的审美水平,我谓之「科学审美」。这个「科学审美」,似乎可以避免我们陷入「平庸」的议题,同时又能在探索的过程中带来源源不断的快乐——提高知识水平、提升科学审美,将是我将来学习过程中的重要主题。

会议所在地,古北水镇,出北京城东北一百公里。建筑皆仿江南水镇,临水而居,各处建筑风格杂糅,与江南古镇相比,又有一番意趣。

平日会议,皆在酒店之中举行,不需要外出。然而每日傍晚时分,在街巷之中,长城之上,探讨科学问题,「敏感而放松」。虽然是个小会议,但氛围与环境,未必不比国际大会。

推荐阅读

统一之路:量子纠缠、时空几何与机器学习

我的肩上是风,风上是闪烁的星群

如何掌握宇宙?

集智俱乐部

英文名: Swarm Agents Club ,简称“ SA Club ”,成立于 2008 年 , 是一个从事学术研究、享受科学乐趣的探索者的团体 。倡导以平等开放的态度、科学实证的精神,进行跨学科的研究与交流,力图搭建一个中国的 

“ 没有围墙的研究所 ”。

集智QQ官方群:292641157

集智俱乐部的口号:

让苹果砸得更猛烈些吧!!!

集智俱乐部的使命(即目标):

营造自由交流学术思想的小生境,

 孕育开创性的科学发现。


让苹果砸得更猛烈些吧!


长按识别二维码,关注集智Club,

让我们离科学探索更近一步。

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存