深度学习
1、什么是欠拟合?什么是过拟合?
欠拟合是模型并没能很好地学到样本的特征,不能很好的拟合样本。
过拟合就是对部分样本拟合得过于充分,并将这部分样本的特征当成了全样本的特征,而实际上全样本的特征分布并不一定和这部分样本分布一致,以至于模型泛化能力很差。
2、有哪些解决过拟合的方法?
正则化、dropout、数据集扩增、Early stopping
机器学习中防止过拟合的处理方法_我和我追逐的梦~~~-CSDN博客_过拟合
3、什么是最大似然估计
已知样本信息、模型,不确定模型参数,反推最具有可能导致这些样本结果出现的参数值。比如我们已经知道了一些样本信息,并且模型是正态分布,那么要反推出均值和方差值
4、交叉熵函数和softmax损失函数的区别
5、推导一下softmax计算公式和反向传播公式(低)
6、为什么L1正则化容易产生稀疏解,而L2正则化不会
7、什么是k折交叉验证,为什么要进行交叉验证?
8、什么是KNN,KNN的优缺点
9、随机梯度下降、批量梯度下降和梯度下降(特指一次用全部的样本)的区别
10、能够推导简单三层网络的前向传播和反向传播
10、掌握sigmoid和tanh、ReLu损失函数的各自优缺点
11、了解神经网络的浅层和深层各自学到了什么东西
12、掌握参数量的计算方式
13、掌握批量归一化(知乎文章)
15、掌握准确率、召回率、PR、AUC的计算方式
16、为什么正负样本过大不会导致AUC计算出现偏差
17、了解Adagrad,RMSProp和adam算法
18、平均池化和最大池化的区别
19、池化操作怎么做反向传播
神经网络是怎么训练的,什么是反向传播
1、卷积层为什么最后有个全连接层:卷积层用于提取特征,全连接层用于输出分类或回归的结果
2、确保验证集和测试集的数据来自同一分布?
随机打乱
·矩阵秩的定义、向量组秩的定义
·范德蒙行列式
·线性空间(向量空间)的定义