深度学习(DL)

深度学习革命2010年左右开始。

从那时起,深度学习解决了许多 "unsolvable" 问题。

深度学习革命并不是由单一发现引发的。当几个必要的因素准备就绪时,这或多或少就会发生:

  • 计算机足够快
  • 电脑存储空间足够大
  • 发明了更好的训练方法
  • 发明了更好的调音方法

神经元

科学家一致认为我们的大脑有 80 到 1000 亿个神经元。

这些神经元之间有数千亿个连接。

Neurons

图片来源:巴塞尔大学,Biozentrum。

神经元(又名神经单元格)是我们大脑和神经系统的基本单位。

神经元负责接收来自外部世界的输入,发送输出(向我们的肌肉发出命令),并在两者之间转换电信号。


神经网络

人工神经网络通常称为神经网络(NN)。

神经网络实际上是多层的感知器

感知器定义了多层神经网络的第一步。

神经网络的本质是深度学习

神经网络是历史上最重要的发现之一。

神经网络可以解决算法无法解决的问题:

  • 医疗诊断
  • 人脸检测
  • 语音识别

神经网络模型

输入数据(黄色)针对隐藏层(蓝色)进行处理,并针对另一个隐藏层(绿色)进行修改以产生最终输出(红色)。

Neural Networks

汤姆·米切尔

Tom Michael Mitchell(生于 1951 年)是一位美国计算机科学家和卡内基梅隆大学 (CMU) 教授。

他是卡内基梅隆大学机器学习系前系主任。

"A computer program is said to learn from experience E with respect to some class of tasks T and performance measure P, if its performance at tasks in T, as measured by P, improves with experience E."

汤姆·米切尔 (1999)

E:经验(次数)。
T:任务(驾驶汽车)。
P:表现(好或坏)。


长颈鹿的故事

2015年,赖马修,伦敦帝国理工学院的一名学生创建了一个名为长颈鹿

长颈鹿可以在72小时内接受国际象棋大师水平的训练。

计算机下棋并不新鲜,但该程序的创建方式却是新的。

智能国际象棋程序需要数年时间才能构建,而 Giraffe 则通过神经网络在 72 小时内构建完成。

  • 监督机器学习
  • 无监督机器学习
  • 自监督机器学习


深度学习

经典编程使用程序(算法)来创建结果:

传统计算

数据+计算机算法=结果

机器学习使用结果来创建程序(算法):

机器学习

数据 + 结果 =计算机算法


机器学习

机器学习通常被认为等同于人工智能。

这是不正确的。机器学习是人工智能的一个子集。

机器学习是人工智能的一门学科,它使用数据来教导机器。

"Machine Learning is a field of study that gives computers the ability to learn without being programmed."

阿瑟·塞缪尔 (1959)


智能决策公式

  • 保存所有操作的结果
  • 模拟所有可能的结果
  • 将新动作与旧动作进行比较
  • 检查新动作是好还是坏
  • 如果新动作没那么糟糕,则选择新动作
  • 一切重来一遍

计算机可以执行数百万次这一事实,已经证明计算机可以做出非常明智的决策。