第5章 深度前馈神经网络 课堂互动 显示答案 | 返回首页

作者：欧新宇（Xinyu OU）
当前版本：Release v2.0

最后更新：2024-06-09

---

【课前自测05】

1. 线性回归模型是单层神经网络。（ ）

2. （多选）线性回归模型可以应用于哪些场景？
A. 房价预测
B. 股票价格预测
C. 图像分类
D. 文本情感分析

3. 2012年，Alex Krizhevsky在ImageNet竞赛中使用的模型（ ）。
A. 玻尔兹曼机
B. 感知机
C. 卷积神经网络（CNN）
D. 限制玻尔兹曼机（RBM）

4. 感知机是第一个模拟人类感知能力的神经网络模型，并且其工作原理基于线性分类。（ ）

5. 线性回归和softmax回归的主要区别是（ ）。
A. 线性回归用于回归问题，softmax回归用于分类问题
B. 线性回归的输出是连续的，softmax回归的输出是离散的
C. 线性回归使用均方误差作为损失函数，softmax回归使用交叉熵作为损失函数
D. 线性回归适用于二分类问题，softmax回归适用于多分类问题

6. Softmax回归的损失函数通常使用什么来衡量？
A. 均方误差
B. 交叉熵
C. 平方和
D. 欧氏距离

7. 在处理多类别分类问题时，Softmax回归比逻辑回归更有效。（ ）

8. 在Softmax回归中，哪个参数表示预测类别？
A. 输入特征
B. 权重矩阵
C. 偏置项
D. 输出层的最大值索引

9. Softmax函数可以将任意实数映射到[0,1]区间内，并且映射后的值之和为1。（ ）

10. 以下哪种网络无法解决XOR问题？
A. 单层感知机
B. 多层感知机
C. 循环神经网络
D. 卷积神经网络

11. 反向传播算法主要用于什么？
A. 计算损失函数
B. 计算梯度
C. 更新网络参数
D. 预测输出

【课堂互动5.1】神经网络的发展历程@5.1.1神经网络的发展历史

1. 下列科研人员中，（ ）最先提出卷积神经网络（CNN），并用它作为邮政手写数字识别的模型。
A. Alex Krizhevsky 和 Geoffrey Hitton 等人
B. Yann Lecun
C. Warren Maculloach和Walter Pitts
D. Alan Turing

2. （多选）下列科研人员中，对反向传播算法(BP)都做出了重要贡献的人包括（ ）。
A. Paul Werbos
B. Yoshua Bengio
C. John Hopfield
D. Geoffrey Hinton

3. 当我们将一个具有7层的深度学习模型用来完成人脸识别任务时，哪一层最有可能学习到人脸的局部器官特征（眼、耳、鼻）？
A. 输入层
B. 第1-2层
C. 第3-5层
D. 第6-7层
E. 输出层

4. 对于一个计算机视觉的分类模型来说，语义信息通常由哪一层提供。
A. 输入层
B. 输出层
C. 任意隐层
D. 所有层都包含

5. 深度学习是神经网络的一个特例，其主要特点是通过多层的网络结构来学习数据的高层次特征。（ ）

【课堂互动5.2】神经网络的发展历程@5.1.2感知机

1. 感知机是由哪位科学家在1957年提出的？
A. Warren Maculloach
B. Walter Pitts
C. Donald Hebbian
D. Frank Rosenblatt

2. 在感知机中，当神经元被激活时，其输出为（ ）。
A. 0
B. 0.5
C. 1
D. -1

3. 感知机网络包含两种权重，一种是连接每个神经元上的权重$w$，另外一种是偏置项$b$。这两种权重都需要手动设置，无法通过算法自动学习获得。（ ）

4. （多选）感知机是早期最成功的神经网络，但也存在一些问题，主要包括哪两个？
A. 处理不了线性不可分问题
B. 处理不了线性可分问题
C. 输入特征需要人工选择
D. 权重特征无法自动更新

5. （多选）下列描述感知机基本原理的表达式，正确的（ ）。
A. $f(x) = \frac{1-e^{-2x}}{1+e^{-2x}}$
B. $z=\sum^n_{j=1} W^Tx+b$
C. $y = \begin{cases} 0 & ,W^T+b \leq 0 \\ 1 & ,W^T+b > 0 \\ \end{cases}$
D. $f(x) = \frac{1}{1+e^{-x}}$

6.（多选）下列应用中，可以使用深度学习来实现的包括（ ）。
A. 无人驾驶汽车
B. 从微信朋友圈的评论中分析情感
C. 从X光照片中发现病变细胞
D. 老照片上色

7.（多选）神经网络中，以下哪些参数需要学习？
A. 权重
B. 偏置
C. 激活函数
D. 网络结构

【课堂互动5.3】线性回归@5.2.1 线性回归简介

1. 线性回归模型中，用于衡量预测值与真实值之间差距的函数是？
A. 平方损失函数
B. 绝对值损失函数
C. 对数损失函数
D. 交叉熵损失函数

2. 在线性回归模型中，哪个参数表示偏差？
A. $w_1, w_2, ..., w_n$
B. $b$
C. $x_1, x_2, ..., x_n$
D. $y$

3. 线性回归模型中的训练数据通常包含哪些部分？
A. 输入数据
B. 输出数据
C. 权重
D. 偏差

4. 线性回归是一种用于预测数值型数据的机器学习算法。（ ）

5. 线性回归模型不能处理非线性关系。（ ）

【课堂互动5.4】线性回归@5.2.2 线性回归的基本优化算法

1. 在线性回归中，训练数据通常指的是什么？
A. 模型的权重和偏差
B. 模型的输入和输出
C. 用来训练模型的历史数据
D. 模型的损失函数

2. 线性回归模型的参数（权重和偏差）是通过梯度下降算法进行学习的。（ ）

3. 在线性回归模型的训练过程中，权重和偏差总是通过随机初始化获得。（ ）

4. 在训练线性回归模型时，我们通常使用哪种方法来最小化损失函数？
A. 梯度下降
B. 反向传播
C. 遗传算法
D. 线性规划

5. 假设我们有一个线性回归模型，其中权重为 $[w_1, w_2, w_3]$，偏差为 $b$，输入为 $[x_1, x_2, x_3]$，则模型的输出为？
A. $w_1x_1 + w_2x_2 + w_3x_3$
B. $w_1x_1 + w_2x_2 + w_3x_3 + b$
C. $w_1 + w_2 + w_3 + b$
D. $x_1 + x_2 + x_3 + b$

【课堂互动5.5】Softmax回归@5.3.1 Softmax回归简介

1. Softmax回归主要用于解决什么问题？
A. 回归问题
B. 单类别分类问题
C. 多类别分类问题
D. 聚类问题

2. 下列哪个数据集通常用于展示Softmax回归在图像分类中的应用？
A. Iris数据集
B. MNIST数据集
C. Boston房价数据集
D. Wine数据集

3. （多选）Softmax回归模型通常包括哪些部分？
A. 输入层
B. 隐藏层
C. 输出层
D. 损失函数

4. Softmax回归是一种二分类模型。（ ）

5. Softmax回归的输出层通常使用Sigmoid函数。（ ）

【课堂互动5.6】Softmax回归@5.3.2 Softmax回归的基本优化

1. 交叉熵损失函数在Softmax回归中用于衡量预测概率与真实概率之间的差异。（ ）

2. Softmax回归的输出通常表示（ ）。
A. 预测值与真实值的距离
B. 对每个类别的预测置信度
C. 类别标签
D. 回归线的斜率

3. 在使用交叉熵损失时，如果预测概率与真实概率接近，损失值会如何变化？
A. 增大
B. 减小
C. 保持不变
D. 难以确定

4.（多选）Softmax回归在处理多类别分类问题时，通常涉及哪些步骤？
A. 数据预处理
B. 类别标签编码
C. 模型训练
D. 预测结果解码

5.（多选）下列哪些是关于Softmax函数的正确描述？
A. 它的输出值在[0,1]之间
B. 它的输出值之和为1
C. 它的输入是任意实数
D. 它可以将输出转换为概率分布

【课堂互动5.7】多层感知机@5.4.1 多层感知机的引入、神经元和激活函数

1.（ ）是构成神经网络的基本结构，其主要功能是模拟生物神经元的结构和特性，接收一组输入信号并产生输出。
A. 神经元
B. 激活函数
C. 损失函数
D. 权重

2. 设某神经元有 $m$ 个输入，可以用向量 $x$ 来表示，每个输入的连接权重用 $w$ 表示，偏置为 $b$；同时，该神经元包含 $n$ 个输出，用向量 $y$ 表示，其权重用 $v$ 表示，偏置为 $a$。那么，下列哪一项可以表达该神经元的净输入？
A. $x$
B. $wx+b$
C. $yv+a$
D. $wx+b+yv+a$

3. （多选）下列表达式用于表示ReLU函数正确的是（ ）。
A. $max(0, x)$
B. $f(x) = \frac{1}{1+e^{-x}}$
C. $f(x) = \begin{cases} x & ,x \geq 0 \\ 0 & ,x < 0 \\ \end{cases}$
D. $f(x) = \frac{1-e^{-2x}}{1+e^{-2x}}$

4. 在神经网络中，为什么需要非线性激活函数？
A. 为了增加计算复杂度
B. 为了保持网络的线性性质
C. 为了使网络能够表达复杂的函数关系
D. 为了使网络更容易训练

5. ReLU激活函数在处理负输入时，输出为0。（ ）

【课堂互动5.8】多层感知机@5.4.2多层感知机的网络结构和数学描述

1. （多选）单一神经元的功能是有限的，将很多神经元连接在一起传递信息来协作完成复杂的功能，这就是神经网络。神经元的不同连接方式构成不同的网络结构，按照拓扑结构划分，可以分为（ ）。
A. 前馈神经网络
B. 后馈神经网络
C. 反馈神经网络
D. 图网络

2. （多选）对于多层感知机来说，通常包含以下几种层（ ）。
A. 输入层
B. 输出层
C. 卷积层
D. 池化层
E. 隐层（隐藏层）
F. 激活层

3. 多层感知机由如下哪几种特征层结构组成？
A. 卷积层
B. 正则化层
C. 全连接层
D. 感应层

4. 试计算如下网络结构图共计有（ ）个权重(W)参数。

A. 3
B. 9
C. 12
D. 13

5. 多层感知机只能解决线性可分问题。（ ）

【课堂互动5.9】多层感知机@5.4.3 损失函数

1. 在神经网络中，梯度更新发生在（ ）
A. 训练阶段
B. 测试阶段
C. 训练和测试阶段同时发生
D. 训练和测试阶段都不发生

2. 在多层感知机的训练过程中，模型训练的目的是（ ）。
A. 更新激活函数，使得模型输出的预测与测试的真实标签尽可能接近。
B. 更新损失函数，使得模型输出的预测与测试的真实标签尽可能接近。
C. 更新权重W和偏置b，使得模型输出的预测与测试的真实标签尽可能接近。
D. 同时更新权重W、偏置b、损失函数和激活函数，使得模型输出的预测与测试的真实标签尽可能接近。

3. 给定神经网络F，其初始权重为W，偏置为b，并使用随机初始化进行初始配置。给定样本A(x,y)，将x输入到神经网络F，试问下列哪个表达式表达在使用样本A进行模型优化。
A. $\max \limits_{W,b} (loss(F(x;W,b),y))$
B. $\min \limits_{W,b} (loss(F(x;W,b),y))$
C. $\max \limits_{W,b} F(A;W,b)$
D. $\min \limits_{W,b} F(A;W,b)$

4. （多选）损失函数一般分为三类，包括（ ）。
A. 分类损失
B. 回归损失
C. 预测损失
D. 对比验证损失

5. （多选）以下损失函数，属于分类损失函数的包括（ ）。
A. Logistic损失
B. 三角损失（Triplet loss）
C. 均方误差损失（L2损失）
D. 交叉熵损失（Cross Entropy Error Function）

【课堂互动5.10】多层感知机@5.4.4 参数更新

1. 使用梯度下降法求解神经网络的权重参数的主要原因是（ ）。
A. 神经网络模型过于复杂，解析式无线接近NP问题，无法直接获得解析解
B. 神经网络参数数量庞大，无法求精确解
C. 梯度下降算法的计算速度比求解析解更快
D. 梯度下降算法更符合计算机的运行思维

2. 在使用梯度下降法进行权重更新时，当梯度为（ ）时，需要对权重w进行增加。
A. 正
B. 负
C. 零
D. 任意值

3. 在梯度下降算法中下列哪个符号表示学习率？
A. $\partial w$
B. $\partial L/\partial w$
C. $\eta$
D. $\theta$

4. 给出下列学习曲线，请问哪一个点是模型训练时期望收敛的最优点。

5. 给定如下的两层神经网络，假设$x^1_i$和$y^2_j$之间的权重为$w^2_{ij}$，对应于$y^2_j$的偏置项为$b^2_j$，整个神经网络的激活函数为Sigmoid()，试求神经元$y^2_2$的输出结果。

A. $w^2_{12} x^1_1 + w^2_{22} x^1_2 +...+ w^2_{n2} x^1_n$
B. Sigmoid$(w^2_{12} x^1_1 + w^2_{22} x^1_2 +...+ w^2_{n2} x^1_n) + b^2_2$
C. Sigmoid$(w^2_{12} x^1_1 + w^2_{22} x^1_2 +...+ w^2_{n2} x^1_n + b^2_2)$
D. $w^2_{12} x^1_1 + w^2_{22} x^1_2 +...+ w^2_{n2} x^1_n + b^2_2$

6. 梯度下降法总是能找到损失函数的全局最小值。（ ）

【课堂互动5.11】多层感知机@5.4.5 推理与误差回传

1. 在求解梯度并对梯度进行更新的过程中，哪一个步骤的主要任务是用来更新权重。
A. 模型初始化
B. 前向传播
C. 反向传播
D. 模型测试阶段

2. 在多层感知机模型最后的输出部分，用来衡量输出的预测结果$\hat{y}$和真实的标签$y$之间距离的是（ ）。
A. Softmax函数
B. 交叉熵函数
C. 全连接层
D. 池化层

3. 在包括卷神经网络在内的所有前馈神经网络中，对参数的优化主要发生在以下哪个步骤中？
A. 前向传输
B. 反向传输
C. 同时发生于前向传输和反向传输
D. 前向传输和反向传输均不对参数进行优化

4. （多选）常见的提高神经网络性能的技巧包括（ ）。
A. 增加正则化结构
B. 更好的参数初始化方法
C. 对原始数据进行预处理
D. 设计更好的参数更新算法

5. 在一个基于深度学习的图像分类应用中，当使用随机梯度下降法进行梯度更新的时候，每次用于计算损失的样本个数为（ ）。
A. 整个数据集
B. 随机抽取一个样本
C. 任意数量的样本
D. 一个小批量的样本子集，一批内的样本数量一般是固定的

6. 神经网络中的参数可以通过正向传播算法来更新。（ ）

7. 反向传播算法用于计算损失函数的梯度。（ ）

8. 梯度下降法的主要目的是什么？
A. 最小化损失函数
B. 最大化损失函数
C. 计算梯度
D. 预测输出

【拓展练习05】

1. 线性回归模型可以看作是哪种类型的神经网络？
A. 多层感知机
B. 循环神经网络
C. 单层神经网络
D. 卷积神经网络

2. 线性回归模型中的权重通常是通过什么方式确定的？
A. 手动设定
B. 随机生成
C. 数据训练
D. 经验公式

3.下列哪一项不是线性回归模型的假设？
A. 输入变量和输出变量之间呈线性关系
B. 输入变量之间相互独立
C. 输出变量是离散的
D. 模型的输出是输入变量的加权和

4. 在购买房屋的过程中，以下哪些步骤可能与线性回归有关？（ ）
A. 选中一个房子
B. 参观了解
C. 估计房价
D. 讨价还价

5. （多选）线性回归模型的训练过程中，哪些因素会影响模型的性能？
A. 训练数据的数量
B. 训练数据的质量
C. 模型的复杂度
D. 损失函数的选择

6. 线性回归模型只能处理一个输入特征。（ ）

7. 在线性回归中，训练数据的数量对模型性能没有影响。（ ）

8. 平方损失函数是线性回归中常用的损失函数。（ ）

9. 在线性回归中，模型的性能只取决于权重和偏差的值。（ ）

10. 在线性回归中，模型的目标是最小化预测值和真实值之间的绝对误差。（ ）

11. 下列关于深度学习的描述，哪个是不正确的？
A. 深度学习是机器学习的一个子领域。
B. 深度学习主要通过堆叠特征层来学习数据的内在规律。
C. 深度学习不等同于深度神经网络。
D. 深度学习在多个领域都有广泛应用。

12. 反向传播算法首次在哪位博士的论文中被提出？
A. Warren Maculloach
B. Paul Werbos
C. John Hopfield
D. Geoffrey Hinton

13. 神经网络发展的哪个阶段，深度学习开始大放异彩？
A. 20世纪40年代
B. 1980年代
C. 2000年代初
D. 2010年代至今

14. 反向传播算法在1986年由Geoffrey Hinton等人完善，并成功应用到神经网络的训练中。（ ）

15. 在神经网络的发展历程中，Yann Lecun首次将反向传播算法应用于卷积神经网络。（ ）

16. 深度学习的发展，特别是在计算机视觉领域的成功，推动了自动驾驶、自然语言处理等领域的发展。（ ）

17. （多选）以下关于深度学习和神经网络描述正确的是（ ）
A. 深度学习是机器学习的一个研究方向
B. 人工神经网络来源于生物神经网络，两者的机理完全一致
C. 和传统机器学习一样，神经网络也利用神经元来学习样本特征
D. 神经网络是一类机器学习的总称，目前我们说的深度学习一般都特指深度神经网络

18. （多选）在以下哪种情况下，使用线性回归模型是合适的？（ ）
A. 预测房价（给定房屋面积、位置等特征）
B. 判断邮件是否为垃圾邮件（给定邮件内容、发件人等特征）
C. 预测股票价格走势（给定历史价格、交易量等特征）
D. 对手写数字图像进行分类（0-9）

19.（多选）下列哪些场景可以使用Softmax回归？
A. 股票预测
B. 手写数字识别
C. 文本分类
D. 图像分割

20. Softmax回归只能用于图像分类任务。（ ）

21. 在Softmax回归中，哪个函数用于将输出转换为概率分布？
A. Sigmoid函数
B. ReLU函数
C. Softmax函数
D. Tanh函数

22. Softmax回归的预测结果是一个什么类型的数据？
A. 概率分布
B. 单一数值
C. 向量
D. 矩阵

23. 在多类别分类问题中，使用Softmax回归的优势是什么？
A. 可以处理连续值
B. 可以输出类别的置信度
C. 计算速度快
D. 不需要标签编码

24.（多选）在Softmax回归中，影响模型性能的因素有哪些？
A. 特征选择
B. 学习率
C. 迭代次数
D. 激活函数

25.（多选）使用交叉熵损失的好处有哪些？
A. 可以更好地衡量预测概率与真实概率之间的差异
B. 梯度计算简单
C. 对噪声数据鲁棒性强
D. 收敛速度快

26. 在训练Softmax回归模型时，我们通常使用均方误差作为损失函数。（ ）

27. 类别标签的One-hot编码是Softmax回归模型训练的必要步骤。（ ）

28. Softmax回归模型的性能可以通过调整学习率和迭代次数来改善。（ ）

29. 对于Softmax损失函数来说，在进行预测时，它将类别概率最小的一类定义为预测目标，并将其作为预测结果进行输出。（ ）

30.（多选）下列多层感知机的参数，哪些对于网络训练的结果都具有较大的影响?
A. 初始值
B. 激活函数
C. 模型框架
D. 损失函数

31.（多选）多层感知机在解决XOR问题时，需要考虑哪些因素？
A. 网络层数
B. 每层神经元数量
C. 激活函数
D. 输入数据的预处理

32.（多选）常见的激活函数有哪些？
A. Sigmoid
B. ReLU
C. Linear
D. Tanh

33.（多选）在设计神经网络时，以下哪些因素需要考虑？
A. 数据规模
B. 计算资源
C. 网络复杂度
D. 问题性质

34.（多选）以下哪些技术或方法可以帮助减少神经网络的过拟合？
A. 正则化
B. 批量归一化
C. 增加网络层数
D. 使用ReLU激活函数

34.（多选）反向传播算法中，以下哪些信息需要传递？
A. 损失函数的梯度
B. 激活函数的梯度
C. 输入数据
D. 网络结构

35. 神经网络中的激活函数必须是可导的。（ ）

36.（多选）梯度下降法的主要步骤包括哪些？
A. 计算损失函数
B. 计算梯度
C. 更新参数
D. 预测输出

37.（多选）在神经网络中，以下哪些步骤是必须的？
A. 正向传播
B. 反向传播
C. 梯度下降
D. 损失函数设计

38.（多选）以下哪些是多层感知机（MLP）的关键因素？
A. 网络结构
B. 损失函数
C. 正向传播
D. 梯度下降法

39.（多选）激活函数的作用包括哪些？
A. 引入非线性
B. 控制输出范围
C. 加快训练速度
D. 减少过拟合

40. 下列哪个函数不是常见的激活函数？
A. Sigmoid
B. ReLU
C. Tanh
D. Linear

41. 在神经网络中，通常选择多少层的MLP？
A. 固定为两层
B. 固定为三层
C. 根据具体问题决定
D. 越多层越好

42. Sigmoid激活函数的输出范围是什么？
A. $(0, 1)$
B. $(-1, 1)$
C. $(0, \infin)$
D. $(-\infin, \infin)$

43. 激活函数的主要作用是什么？
A. 将输入信号放大
B. 将线性函数转换为非线性函数
C. 标准化输出值
D. 减少计算复杂度

44. 多层感知机（MLP）中，（ ）元素是构成神经网络的基本结构。
A. 神经元
B. 激活函数
C. 损失函数
D. 梯度下降法

45.（多选）下列函数中，属于感知机所使用的激活函数是（ ）。
A. 修正线性单元
B. 分段函数
C. 阶跃函数
D. Sigmoid函数

46. Sigmoid激活函数的输出范围在(-1, 1)之间。（ ）

47. 激活函数的作用是将线性函数转换为非线性函数。（ ）

48. 在多层感知机中，隐藏层的层数和每层的神经元数量可以随意选择。（ ）

49. 损失函数用于衡量模型的预测结果与真实结果之间的差距。（ ）

50. 在多层感知机中，哪个步骤用于计算网络的输出？
A. 前向传播
B. 反向传播
C. 梯度下降
D. 损失函数优化