(转自CSDN)深度学习入门必须理解这25个概念

转载 2018-06-06 21:34 阅读(122)次
最近在一个公众号看到推送了这篇文章,写得还是通俗易懂的,如果有基础的小伙伴看起来应该很不错,我觉得用来复习巩固知识非常合适 我联系博主,还没回复,容我转载过来自己时常复习。如有不妥,请联系我删除。 原文地址:https://blog.csdn.net/pangjiuzala/article/details/72630166    作者 Star先生神经网络基础1)神经元(Neuron)——就像形成我们大脑基本元素的神经元一样,神经元形成神经网络的基本结构。想象一下,当我们得到新信息时我们该怎么做。当我们获取信息时,我们一般会处理它,然后生成一个输出。类似地,在神经网络的情况...

神经网络的cost function

原创 2018-04-12 23:53 阅读(140)次
神经网络作为一个机器学习算法,跟逻辑回归,线性回归一样,也可以通过最小化代价函数cost function J(θ)来求预测函数h(θ)的θ。 逻辑回归的正则化cost function是 神经网络的cost function 是从上面的公式推导的 因为神经网络中输出层节点的激活函数都逻辑回归。但神经网络的输出层可能是K个节点,也就是输出是一个K维向量,在计算cost function的时候我们需要把这K维的值的cost都累加起来。 而正则项部分,因为神经网络中每个上层节点到下层节点都有权重(或者叫参数θ),所以需要都把他们加上,但不加上bias项的参数,这和逻辑回归是一样的,因为bias的...

神经网络实现多分类的思路

原创 2018-04-12 17:34 阅读(383)次
在逻辑回归算法的分类问题中,我们提到过    多分类问题的求解思路。 在神经网络中,思考的方向也是一样的。 即是给预测的类别(预测概率最高的类别)为1,其他分类为0来表示。 神经网络中的实现思路 是在输出层做出N个节点(N为类别总数),这样在输出不在是一个数,而是一个N维向量,这个向量在预测认为最有可能的分类对应的维度上表示为1,其他维度上表示为0. 如      被认为是第2类别。 但第几个类别不是我们空谈,需要训练样本支持,也是就是学习的训练样本的y值也应该是一个N维矩阵,并仅在认为的类别对应的维度上表示为1,其他为0。 如...

初识神经网络

原创 2018-03-16 22:46 阅读(151)次
有一些问题,如果他不是线性问题,无法用线性回归来处理。因为他需要非线性方程才能拟合训练数据。而非线性方程意味着存在多项式,比如只有x1,x2的两种特征项,那多项式有可能是x1^2,x1x2,x2^2,x1^3,x2^3,(x1^2)x2,.....等等,但当特征项有100个的时候,x1,x2,x3, .....x100,那多项式的组合就是几何倍的增长。 例如计算机视觉问题,分辨一张图片是什么类型的事物,一张图片即使只有30*30的分辨率,他也意味着有900个数据点,而这数据点的数量就是特征项数目。如果用多项式来做计算,那就是都是一个计算量浩大的工程。 所以只是增加多项式来拟合数据的一些算法,比...