论智能起源中的简约与自洽原则

2022年第23卷第9期

摘要

关键词

相关研究

回顶部

《信息与电子工程前沿（英文）》 >> 2022年第23卷第9期 doi: 10.1631/FITEE.2200297

论智能起源中的简约与自洽原则

1加州大学伯克利分校电子工程与计算机系，美国加利福尼亚州，94720；2加州大学伯克利分校分子与细胞生物系，霍华德•休斯医学研究所，美国加利福尼亚州，94720；3粤港澳大湾区数字经济研究院，中国深圳市，518045

收稿日期： 2022-07-10 录用日期： 2022-09-21 发布日期： 2022-09-21

HTML105 PDF 150 收藏 0

摘要

深度学习重振人工智能十年后的今天，我们提出一个理论框架来帮助理解深度神经网络在整个智能系统里面扮演的角色。我们引入两个基本原则：简约与自洽；分别解释智能系统要学习什么以及如何学习。我们认为这两个原则是人工智能和自然智能之所以产生和发展的基石。虽然这两个原则的雏形早已出现在前人的经典工作里，但是我们对这些原则的重新表述使得它们变得可以精准度量与计算。确切地说，简约与自洽这两个原则能自然地演绎出一个高效计算框架：压缩闭环转录。这个框架统一并解释了现代深度神经网络以及众多人工智能实践的演变和进化。尽管本文主要用视觉数据建模作为例子，我们相信这两个原则将会有助于统一对各种自动智能系统的理解，并且提供一个帮助理解大脑工作机理的框架。

关键词

智能 ; 简约 ; 自洽 ; 编码率减少 ; 深度网络 ; 闭环转录