深度学习知识点集锦

置顶

查看更多

机器学习知识点集锦

置顶

查看更多

卷积网络的边缘检测

神经网络由浅层到深层,分别可以检测出图片的边缘特征、局部特征(例如眼睛、鼻子等),到后面的一层就可以根据前面检测的特征来识别整体面部轮廓。这些工作都是依托卷积神经网络来实现的。

卷积运算(Convolutional Operation)是卷积神经网络最基本的组成部分。我们以边缘检测为例,来解释卷积是怎样运算的。


边缘检测

图片最常做的边缘检测有两类:垂直边缘(Vertical Edges)检测和水平边缘(Horizontal Edges)检测。

Different-edges

查看更多

吴恩达2017深度学习课后作业笔记

链接地址


课后作业目录

1_神经网络与深度学习
…………Week1 深度学习概论
……………………选择题
…………Week2 神经网络基础

查看更多

深度学习选择题集锦

1-10

1、梯度下降算法的正确步骤是什么?
1.用随机值初始化权重和偏差
2.把输入传入网络,得到输出值
3.计算预测值和真实值之间的误差
4.对每一个产生误差的神经元,调整相应的(权重)值以减小误差
5.重复迭代,直至得到网络权重的最佳值
A 1, 2, 3, 4, 5
B 5, 4, 3, 2, 1
C 3, 2, 1, 5, 4
D 4, 3, 1, 5, 2

答案:A

查看更多

机器学习开发策略

吴大大结构化机器学习项目总结,完善中…

ML策略

假设你构建了一个喵咪分类器,训练之后准确率达到90%,但在测试集上还不够好。此时你可以想到的优化方法有哪些呢?总结后大致如下:

  • 收集更多的数据
  • 收集更多的多样化训练集,比如不同姿势的猫咪图片等
  • 用梯度下降法训练更长时间
  • 尝试Adam算法
  • 尝试更大的网路
  • 尝试小一点的网络
  • 尝试dropout随机失活算法
  • 加上L2正则项
  • 改善网络结构,如变更激活函数,变更隐藏层节点数量

优化的方法虽然很多,但如果方向错误,可能白费几个月时间。
那通过哪些策略可以减少错误发生的几率呢?怎么判断哪些方法可以尝试,哪些方法可以丢弃呢?

查看更多

机器学习选择题集锦

1-10

1、一个二进制源X发出符号集为{-1,1},经过离散无记忆信道传输,由于信道中噪音的存在,接收端Y收到符号集为{-1,1,0}。已知P(x=-1)=1/4,P(x=1)=3/4,P(y=-1|x=-1)=4/5,P(y=0|x=-1)=1/5,P(y=1|x=1)=3/4,P(y=0|x=1)=1/4,求条件熵H(Y|X)( )
A 0.2375
B 0.3275
C 0.5273
D 0.5372

答案:A
解析
信息熵公式:H(X)= -∑P(x)log(x)
条件熵公式:H(Y|X)= -∑P(y,x)logP(y|x)= -∑P(y|x)P(x)logP(y|x),
将(y=-1,x=-1), (y=0,x=-1), (y=1,x=1), (y=0,x=1)四种情况带入公式求和,
得 H(Y|X)≈-(-0.01938-0.03495-0.07028-0.11289)=0.2375。

查看更多

机器学习(九):数据清洗和特征选择

持续更新中。。。

机器学习(八):隐马尔科夫模型

持续更新中。。。

机器学习(七):主题模型

持续更新中。。。