引子
我见过最聪明的学习方法,不是什么神奇算法。
就四个字——犯错,修正。
AI今天能这么聪明,靠的就是这个道理。
正文
这个人叫杰弗里·辛顿(Geoffrey Hinton)。
1947年出生于英国,AI教父,2018年图灵奖得主。
1986年,辛顿和两位同事——大卫·鲁梅尔哈特、罗纳德·威廉姆斯——发表了一篇论文,把反向传播(Backpropagation) 成功用在了多层神经网络上。
反向传播什么意思?
我给你打个比方——
机器考试,答错了一道题。传统方法告诉你:“错了。”结束。
但反向传播不一样。它会问:“错在哪?”然后一层一层往回推——到底是哪个参数导致了错误?找到它,调整它,重新学习。
这个思路,让神经网络真正复活了。
以前神经网络只有一层,能力有限。现在可以有很多层——多层神经网络,也就是我们今天说的“深度神经网络”。
但当时有一个致命问题:没有足够的数据,也没有足够的算力。
辛顿的这个技术,等了整整26年。
26年里,神经网络一直被主流学界视为“边缘方法”。辛顿的学生不多,经费不多,论文也不多。但他始终坚持——坚信神经网络这条路走得通。
直到2012年。
那一年,辛顿带着两个学生——亚历克斯·克里热夫斯基和伊利亚·苏茨克维——参加了一个叫ImageNet的图像识别大赛。他们的算法叫AlexNet,用深度神经网络参赛。
结果:错误率只有15%,比第二名低了整整10个百分点。
断崖式领先。
那天以后,整个AI界都意识到——深度学习,才是未来。辛顿等了26年的那一天,终于来了。
今天所有的大模型能学习,本质上靠的就是:犯错,然后修正。
互动
人跟AI一样,靠犯错成长。你认同这个观点吗?认同的扣1,不认同的扣2。
Leave a Reply