写在前面 今天主要探索的是改变神经网络的权重和阈值的初始值的大小对于模型输出结果的影响，本篇文章首先会介绍一下我对输入数值的归一化处理，然后再通过示例查看初始化参数对于模型输出的影响。 归一化 为了减小MNIST数据本身数值大小的影响，我将MNIST图片的像素数据进行了归一化处理，归一化公式如下图所示： 程序实现如下图所示，需要注意的是，在程序中，我为了减少小数点的位数，我将归一化数值进行了放大
一文解决机器学习中的过拟合与欠拟合问题(正则化，数据增强，Dropout，提前终止） 生活中的过拟合与欠拟合现象 过拟合与欠拟合的概念 解决过拟合与欠拟合问题的四大金刚 正则化 数据增强 Dropout 提前终止训练 机器学习的核心任务就是‘使用算法模型解析数据，从中学习，然后对世界上的某件事情作出决定或者预测’。对机器学习的模型来说，最糟糕的情况就是训练的模型
写在前面 经过周末的休息，脑子得到了足够的休息，所以今天调程序的时候就特别顺利，完成了标准BP神经网络的程序搭建，并且开始了参数的调整，那么今天这篇博客主要分析程序实现以及模型调优的尝试过程。 神经网络 最终我确定下来的神经网络长这样： 相较于之前的模型，我将神经网络的输入层增加到了2个神经元，一个是图像的熵率，一个是图像的颜色距离，两者的计算方法如下图所示： def calcuEntImage
写在前面 很遗憾，今天并没有取得什么实质性的进展，并且我还切实的感受到了误差函数发散的快感，今天这篇文章主要分享我的实现代码思路以及往期博客的一些纠正。 公式纠正 首先是对我上一篇博客中一个错误公式的纠正，错误公式如下图所示： 可以很明显的看到公式中出现了2个i的变量，昨天晚上脑子晕了，今天才发现，正确的公式应该如下图所示： 发散的误差函数 我的误差函数是均方根值： 我在程序里面的实现如下图
写在前面 我终于把神经网络的梯度下降公式推导完毕了！先看看为了伟大工程牺牲的草稿纸吧~ 接下来我就分享出我推导的公式以及我总结出来的规律。 梯度下降 神经网络如图所示： 前馈神经网络调整参数的过程可以看成是将误差通过神经网络的连线逐层往回传递从而调整不同层神经元之间的连接系数和神经元的阈值。那么误差是如何回传的呢？那就是通过求微分来实现了，求上层神经元输出对下层神经元输出的微分，再给一定的学习
写在前面 今天正式进入前馈神经网络的公式推导环节，综合数据处理难度和公式推导难度以及神经网络的易理解性，我将之前放出的神经网络做了一些调整，之后给出。那么这篇文章主要进行神经网络的变量讲解，以及公式分析。 神经网络图 神经网络图如下所示： 相比于之前的神经网络，我将其修正为了只有一个输入神经元，我将28X28的图像矩阵转换成了784个数据的一维向量，因此我构思的神经网络就是将该一维向量输入神经网
强化学习答案（第二版） 第二章 2.1 Q：在\epsilon贪心动作选择中，在有两个动作及\epsilon=0.5的情况下，贪心动作被选择的概率是多少？ A：0.5的概率选择开发（exploitation），选择贪心动作，0.5的概率选择试探（exploration），试探时有0.5的概率选择贪心动作，所有是0.5+0.5*0.5=0.75 2.2 Q：赌博机的例子 考虑一个k=4的多臂赌博机
深度前馈网络学习方法 什么是深度前馈网络 深度前馈网络(deep feedforward network)，也叫做前馈神经网络(feedforward neurnal network)或者多层感知机(multilayer perceptron, MLP)，是典型的深度学习模型。前馈网络的目标是近似某个函数f_。例如，对于分类器，y=f_(x)将输入x映射到一个类别y。前馈网络定义了一个映射y=f
写在前面 之前已经完成了MNIST数据的获取，机器学习的数据预处理中包括数据清理（离散缺失值等处理），数据合成（将多个数据集合成单个数据集等处理），数据归约（降维等操作），数据变换（归一化等操作），MNIST数据集已经将数据清理，数据合成做好了，因此我们还需要做的就是数据归约和数据变换了，今天这篇文章主要进行数据降维的分析以及神经网络的建立。 MNIST图片 首先我们来看一下MNIST数据集里的图
冒泡排序（短冒泡排序） import numpy as np import time def bubble_sort(alist): for passnum in range(len(alist) - 1, 0, -1): for i in range(passnum): if alist[i] > alist[i + 1]:
目录 一、项目背景 二、数据挖掘技术的应用 三、实验数据探索分析 四、特征工程 五、LightGBM模型预测 六、总结 一、项目背景 1、作者说 我们在学习一项技术时候，实际上非常希望能够通过实战训练来检验自己的学习成果，并发现不足进一步提升自己。有关注阅读我的文章的朋友应该知道我个人更喜欢在实战的案例中学习，因此，这一篇我将完整地分享自己在项目中的学习过程，这个题目为《基于机器学习模型的二手车交
写在前面 做为我的第一个机器学习的练手项目，我选择了较为简单的MNIST手写字符集识别，因为MNIST在网上是开源的，但是我们需要将其处理成模型可使用的格式，因此这篇文章我就分享我的MNIST字符集下载以及数据集成过程。 conda下载tensorflow 在pycharm的这个地方可以通过命令行下载tensorflow： 通过命令conda install tensorflow之后，可能会报下
深度学习之RNN RNN基本概述 RNN的优势及结构形式 RNN的前向传播过程 BPTT算法 LSTM GRU：LSTM的变体 双向RNN RNN基本概述 我们首先看一下百度百科对于RNN的解释：循环神经网络（Recurrent Neural Network, RNN）是一类以序列（sequence）数据为输入，在序列的演进方向进行递归（recursion）且所有节点（循环单元）
下载这几个的软件的前提是： 1、网速好 2、有耐心 3、选对路 参考网站： 树莓派4b安装Python3的第三方库的一些想法 树莓派3B+ + 系统安装 + tensorflow1.9.0 + opencv3.4.0 树莓派4B换清华源并更换系统源（Raspbian-buster系统） 54树莓派VNC无法显示桌面 树莓派4B安装tensorflow1.14报错，找不到libhdfs.so 树莓派
深度学习：白话解释ResNet残差网络 一幅漫画引发的思考 什么是ResNet网络？ 关于残差网络一些思考 一幅漫画引发的思考 先从一幅漫画说起话说有一天，小镇举行一场临摹比赛，规则是这样的：首先给大家一张底稿，然后在上面覆盖透明的纸进行作画。要求是每一层纸只允许画原稿的一部分特征，至于覆盖多少层纸不做要求。最后看谁能够画的最接近原底稿。 最后有三个人选择了三种不同的方式作画
写在前面 学了挺长一段时间的机器学习了，但是都是在学习理论知识，并没有进行过实践，因此我就想着做一个项目实践一下。现在深度学习这么火，所以我的第一个项目就打算写一个双隐层的BP神经网络识别MNIST数据集，特此写这一系列文章分享我的项目实现过程，包括环境配置。 那么这博客主要分享python的开发环境conda的安装和conda在pycharm里的配置。 conda 为什么要安装conda呢？它是
深度学习：详细说明GoogleNet网络结构 什么是GoogleNet网络？ Inception V1 Inception V2 Inception V3 Inception V4 什么是GoogleNet网络？ 在我们上一篇博客深度学习：一篇你一定看的懂的VGG结构 中，我们详细介绍了VGG网络结构，并说明该结构获得了2014年ILSVRC比赛的第二名的好成绩。那么第一名是谁呢
啥也不会照样看懂交叉熵损失函数 什么是损失函数 损失函数的作用 有哪些损失函数 交叉熵（Cross Entroy)损失函数 什么是损失函数 损失函数(loss function)是用来估量模型的预测值与真实值的不一致程度，它是一个非负函数。一般来说，损失函数越小，模型的鲁棒性越好。损失函数分为经验风险损失函数和结构风险损失函数。经验风险损失函数表示预测值与真实值之
深度学习：Dropout如何解决过拟合 为什么是Dropout 什么是Dropout 为什么Dropout可以解决过拟合问题 Dropout的数学解释 Dropout的缩放问题 本文有些观点和比喻仅代表作者本人，请谨慎阅读。。。 为什么是Dropout 在机器学习的模型中，如果模型的参数太多，而训练样本又太少，训练出来的模型很容易产生过拟合的现象（类似于结构力学中的超静定问题，举这个栗子
很久以前看吴恩达老师的视频和西瓜书时用jupyter写的，今天想起来就把它转到这里 图像识别、目标检测、风格迁移 人脸识别 人脸验证（face verification）和人脸识别（face recognition）的区别：人脸验证：输入一张人脸图片，验证输出与模板是否为同一人，即一对一问题。人脸识别：输入一张人脸图片，验证输出是否为K个模板中的某一个，即一对多问题。 One Shot Learn
第三方账号登入
看不清？点击更换
第三方账号登入
QQ 微博