那个让AI学会“认错”的人,等了26年

引子

我见过最聪明的学习方法,不是什么神奇算法。

就四个字——犯错,修正

AI今天能这么聪明,靠的就是这个道理。

正文

这个人叫杰弗里·辛顿(Geoffrey Hinton)。

1947年出生于英国,AI教父,2018年图灵奖得主。

1986年,辛顿和两位同事——大卫·鲁梅尔哈特、罗纳德·威廉姆斯——发表了一篇论文,把反向传播(Backpropagation) 成功用在了多层神经网络上。

反向传播什么意思?

我给你打个比方——

机器考试,答错了一道题。传统方法告诉你:“错了。”结束。

但反向传播不一样。它会问:“错在哪?”然后一层一层往回推——到底是哪个参数导致了错误?找到它,调整它,重新学习。

这个思路,让神经网络真正复活了。

以前神经网络只有一层,能力有限。现在可以有很多层——多层神经网络,也就是我们今天说的“深度神经网络”。

但当时有一个致命问题:没有足够的数据,也没有足够的算力。

辛顿的这个技术,等了整整26年。

26年里,神经网络一直被主流学界视为“边缘方法”。辛顿的学生不多,经费不多,论文也不多。但他始终坚持——坚信神经网络这条路走得通。

直到2012年。

那一年,辛顿带着两个学生——亚历克斯·克里热夫斯基和伊利亚·苏茨克维——参加了一个叫ImageNet的图像识别大赛。他们的算法叫AlexNet,用深度神经网络参赛。

结果:错误率只有15%,比第二名低了整整10个百分点。

断崖式领先。

那天以后,整个AI界都意识到——深度学习,才是未来。辛顿等了26年的那一天,终于来了。

今天所有的大模型能学习,本质上靠的就是:犯错,然后修正。

互动

人跟AI一样,靠犯错成长。你认同这个观点吗?认同的扣1,不认同的扣2。

上一篇:
下一篇:

Leave a Reply

Your email address will not be published. Required fields are marked *