当前位置：首页>編程日記>正文

神经网络手写数字识别,人工智能手写数字识别

編程日記08-29

神经网络手写数字识别,人工智能手写数字识别

手写数字识别的神经网络算法有哪些

看数字图片而定。如果图片较小并且质量还不错，那么通过2层的神经网络就能胜任。对于MNIst数据集（28*28的手写数字），2层神经网络准确率可达99%，svm也有98%以上。

以上实现非常简单，matlab已经有现成工具箱。卷积神经网络通常用于更加复杂的场合，闭合是被图像内容等。

在MNIST数据集上cnn可达99.7%准确率，但是实现起来较为复杂，需要通过开源框架caffe，keras等进行编程。

如果对准确率要求没有达到小数点后两位的程度，用简单的svm，神经网络，softmax等调调参数就行了。

谷歌人工智能写作项目：爱发猫

什么是人工神经网络？

一.一些基本常识和原理[什么叫神经网络?]人的思维有逻辑性和直观性两种不同的基本方式写作猫。

逻辑性的思维是指根据逻辑规则进行推理的过程；它先将信息化成概念，并用符号表示，然后，根据符号运算按串行模式进行逻辑推理；这一过程可以写成串行的指令，让计算机执行。

然而，直观性的思维是将分布式存储的信息综合起来，结果是忽然间产生想法或解决问题的办法。

这种思维方式的根本之点在于以下两点:1.信息是通过神经元上的兴奋模式分布储在网络上;2.信息处理是通过神经元之间同时相互作用的动态过程来完成的。人工神经网络就是模拟人思维的第二种方式。

这是一个非线性动力学系统，其特色在于信息的分布式存储和并行协同处理。虽然单个神经元的结构极其简单，功能有限，但大量神经元构成的网络系统所能实现的行为却是极其丰富多彩的。

[人工神经网络的工作原理]人工神经网络首先要以一定的学习准则进行学习，然后才能工作。

现以人工神经网络对手写“A”、“B”两个字母的识别为例进行说明，规定当“A”输入网络时，应该输出“1”，而当输入为“B”时，输出为“0”。

所以网络学习的准则应该是：如果网络作出错误的的判决，则通过网络的学习，应使得网络减少下次犯同样错误的可能性。

首先，给网络的各连接权值赋予(0，1)区间内的随机值，将“A”所对应的图象模式输入给网络，网络将输入模式加权求和、与门限比较、再进行非线性运算，得到网络的输出。

在此情况下，网络输出为“1”和“0”的概率各为50%，也就是说是完全随机的。这时如果输出为“1”(结果正确)，则使连接权值增大，以便使网络再次遇到“A”模式输入时，仍然能作出正确的判断。

如果输出为“0”(即结果错误)，则把网络连接权值朝着减小综合输入加权值的方向调整，其目的在于使网络下次再遇到“A”模式输入时，减小犯同样错误的可能性。

如此操作调整，当给网络轮番输入若干个手写字母“A”、“B”后，经过网络按以上学习方法进行若干次学习后，网络判断的正确率将大大提高。

这说明网络对这两个模式的学习已经获得了成功，它已将这两个模式分布地记忆在网络的各个连接权值上。当网络再次遇到其中任何一个模式时，能够作出迅速、准确的判断和识别。

一般说来，网络中所含的神经元个数越多，则它能记忆、识别的模式也就越多。

=================================================关于一个神经网络模拟程序的下载人工神经网络实验系统(BP网络)V1.0Beta作者:沈琦作者关于此程序的说明:从输出结果可以看到，前3条"学习"指令，使"输出"神经元收敛到了值0.515974。

而后3条"学习"指令，其收敛到了值0.520051。再看看处理4和11的指令结果P*Out1:0.520051看到了吗？"大脑"识别出了4和11是属于第二类的！

怎么样?很神奇吧?再打show指令看看吧!"神经网络"已经形成了!你可以自己任意的设"模式"让这个"大脑"学习分辩哦!只要样本数据量充分(可含有误差的样本)，如果能够在out数据上收敛地话，那它就能分辨地很准哦!有时不是绝对精确，因为它具有"模糊处理"的特性.看Process输出的值接近哪个Learning的值就是"大脑"作出的"模糊性"判别!=================================================人工神经网络论坛(旧版,枫舞推荐)国际神经网络学会(INNS)(英文)欧洲神经网络学会(ENNS)(英文)亚太神经网络学会(APNNA)(英文)日本神经网络学会(JNNS)(日文)国际电气工程师协会神经网络分会研学论坛神经网络;sty=1&age=0人工智能研究者俱乐部2nsoft人工神经网络中文站=================================================推荐部分书籍:人工神经网络技术入门讲稿(PDF)神经网络FAQ(英文)数字神经网络系统(电子图书)神经网络导论(英文)===============================================一份很有参考价值的讲座是Powerpoint文件，比较大，如果网速不够最好用鼠标右键下载另存.。

请介绍一下人工神经网络，和应用 5

一.一些基本常识和原理[什么叫神经网络?]人的思维有逻辑性和直观性两种不同的基本方式。

然而，直观性的思维是将分布式存储的信息综合起来，结果是忽然间产生想法或解决问题的办法。

[人工神经网络的工作原理]人工神经网络首先要以一定的学习准则进行学习，然后才能工作。

现以人工神经网络对手写“A”、“B”两个字母的识别为例进行说明，规定当“A”输入网络时，应该输出“1”，而当输入为“B”时，输出为“0”。

所以网络学习的准则应该是：如果网络作出错误的的判决，则通过网络的学习，应使得网络减少下次犯同样错误的可能性。

如此操作调整，当给网络轮番输入若干个手写字母“A”、“B”后，经过网络按以上学习方法进行若干次学习后，网络判断的正确率将大大提高。

一般说来，网络中所含的神经元个数越多，则它能记忆、识别的模式也就越多。

而后3条"学习"指令，其收敛到了值0.520051。再看看处理4和11的指令结果P*Out1:0.520051看到了吗？"大脑"识别出了4和11是属于第二类的！

神经网络手写数字识别，总误差一直降不下来

上图是解决问题的神经网络模型，它是一个三层神经网络。对于这样的神经网络，我们要解决问题，必须要有训练集来训练它。

我们所用到的训练集：大量28x28像素的图片（这些图片通过扫描一些手写数字得到），这些输入的像素是灰度级的，0.0代表白色，1.0代表黑色，介于两者之间为灰色。

由训练集可知，我们的inputlayer应该有28x28=784个neurons，上图简略了一些。

第二层是hiddenlayer，我们设置它的neurons有n个，上图中n=15第三层是outputlayer，它有10个neurons（因为数字无非就是0~9），并且我们假定，如果第一个neuron被激活，ouput=1，那么就说是被到的数字为0，以此类推。

（这个时候大家可能会问，要是多个neurons被激活呢？原文中说要取最大值的那个，但是如果有两个最大值，或者有两个以上最大值呢？）

java手写体英文数字识别系统识别预处理如何实现采用什么语言比较好

转载　1引言手写体数字识别是文字识别中的一个研究课题，是多年来的研究热点，也是模式识别领域中最成功的应用之一。由于识别类型较少，在实际生活中有深远的应用需求，一直得到广泛的重视。

近年来随着计算机技术和数字图像处理技术的飞速发展，数字识别在电子商务、机器自动输入等场合已经获得成功的实际应用。

尽管人们对手写数字的研究己从事了很长时间的研究，并己取得了很多成果，但到目前为止，机器的识别本领还无法与人的认知能力相比，这仍是一个有难度的开放问题，所以对手写数字识别的进一步研究，寻求如何更高效更准确更节能地实现手写数字的自动录入和识别的解决方案对提高经济效益、推动社会发展都有深远的意义。

近年来,人工神经网技术发展十分迅速,它具有模拟人类部分形象思维的能力,为模式识别开辟了新的途径,成了模拟人工智能的一种重要方法，特别是它的信息并行分布式处理能力和自学习功能等显著优点,更是激起了人们对它的极大的兴趣。

BP（BackPropagation）网络是神经网络中一种，是1986年由Rumelhart和McCelland为首的科学家小组提出，是一种按误差逆传播算法训练的多层前馈网络，可以很好地解决非线性问题，在函数逼近、模式识别和数据压缩等方面都有很广泛的应用。

我们在认真地研究了神经网络的基本原理和机制的基础上,结合手写体数字识别这一具体课题,提出了用BP神经网络方法来实现手写体数字识别的方案。

2手写体数字识别概述2.1手写数字识别简述模式识别是六十年代初迅速发展起来的一门学科。

由于它研究的是如何用机器来实现人及某些动物对事物的学习、识别和判断能力，因而受到了很多科技领域研究人员的注意，成为人工智能研究的一个重要方面。字符识别是模式识别的一个传统研究领域。

从50年代开始，许多的研究者就在这一研究领域开展了广泛的探索，并为模式识别的发展产生了积极的影响。手写体数字识别是多年来的研究热点也是字符识别中的一个特别问题。

手写体数字识别在特定的环境下，如邮政编码自动识别系统，税表和银行支票自动处理系统等一般情况。

当涉及到数字识别时，人们往往要求识别器有很高的识别可靠性，特别是有关金额的数字识别时，如支票中填写的金额部分，更是如此。

因此针对这类问题的处理系统设计的关键环节之一就是设计出高可靠性和高识别率的手写体数字识别方法。这个领域取得了飞速的发展，部分是由于更好的学习算法，部分是由于更优良的训练集。

美国国家科学学会（NIST）建立了一个包含60000个经过标注的数字的数据库，它已经成为对新的学习算法进行比较的性能测试标准。然而可以说还没有哪个手写体数字识别器达到完美的识别效果。

在过去的数十年中，研究者们提出了许许多多的识别方法，按使用的特征不同，这些方法可以分为两类:基于结构特征的方法和基于统计特征的方法。统计特征通常包括点密度的测量、矩、特征区域等。

结构特征通常包括园、端点、交叉点、笔划、轮廓等，一般来说，两类特征各有优势。

例如，使用统计特征的分类器易于训练，而且对于使用统计特征的分类器，在给定的训练集上能够得到相对较高的识别率;而结构特征的主要优点之一是能描述字符的结构，在识别过程中能有效地结合几何和结构的知识，因此能够得到可靠性较高的识别结果。

本文针对手写数字识别选用BP神经网络这种基于传统统计学基础上的分类方法，用于分割和识别，并取得了较好的识别效果。

2.2手写数字识别的一般过程手写体数字识别的过程如图2-1所示，一般分为预处理、特征提取、数字串的分割、分类器、等模块。原始图像是通过光电扫描仪，CCD器件或电子传真机等获得的二维图像信号。

预处理包括对原始图像的去噪、倾斜校正或各种滤波处理。手写体数字具有随意性，其字符大小、字间距、字内距变化很大，分割难度较大。手写数字串的分割是其中最重要的环节，是制约识别率的瓶颈所在。

去噪是预处理中极重要的环节。

系统面对的是从实际环境中切分出的字符图像，可能有粘连的边框、随机的墨点、切分不正确引入的其他字符笔划等使前景点增加的噪声，还可能有断线等使背景增加的噪声，目前适应各种环境的通用去噪算法还不成熟。

预处理中的规格化也不仅仅是同比例的放缩，它不仅要保持拓扑不变，更要最大限度地突出所取特征。在众多应用环境中，特征提取、分类器、多分类器集成是整个识别系统的核心。

大体上来说特征可以分为结构特征和统计特征两类。由于分类器的选择取决于所提取的特征，因此相应的识别方法便有结构方法和统计方法。

总之，从手写体数字识别原理可见，手写体数字识别技术主要包括以下几点:1）图像预处理，包括彩色图像转成灰度图像、二值化，归一化，滤除干扰噪声等;2）基于数字图像的特征选择和提取;3）数字串的分割;4）模式分类识别。

其中，第二和第四部分是手写数字识别的重点，直接关系到识别的准确率和效率，也是本论文研究的重点所在。

结果图2-1识别流程2.3手写数字识别的一般方法及比较手写数字识别在学科上属于模式识别和人工智能的范畴。在过去的四十年中，人们提出了很多办法获取手写字符的关键特征，提出了许多识别方法和识别技术。

这些手段分两大类:全局分析和结构分析。

多年的研究实践表明，对于完全没有限制的手写数字，几乎可以肯定:没有一种简单的方案能达到很高的识别率和识别精度，因此，最近这方面的努力向着更为成熟、复杂、综合的方向发展。

研究工作者努力把新的知识运用到预处理，特征提取，分类当中。近年来，人工智能中专家系统方法、人工神经网络方法已应用于手写数字识别。在手写数字识别的研究中，神经网络技术和多种方法的综合是值得重视的方向。

针对模式特征的不同选择及其判别决策方法的不同，可将模式识别方法大致分为5大类这5种识别方法均可实现手写数字识别，但它们特点不同，必须根据条件进行选择。

（1）统计模式法这是以同类模式具有相同属性为基础的识别方法。用来描述事物属性的参量叫做待征，它可以通过模式的多个样本的测量值统计分析后按一定准则来提取。

例如:在手写数字识别系统中，我们可以把每个数字的图形分为若干个小方块(图)，然后统计每一小方块中的黑像素构成一个多维特征矢量，作为该数字的特征。

必须注意的是:在选择特征时，用于各类模式的特征应该把同类模式的各个样本聚集在一起，而使不同类模式的样本尽量分开，以保证识别系统能具有足够高的识别率。

（2）句法结构方法在形式语言和自动机的基础上产生了句法结构这一方法。

其基本原理是:对每一个模式都用一个句法来表示，而对一个待识别的未知样本，通过抽取该样本的基元来构造该样本的句子，然后分析此句子满足什么样的句法，从而推断出他该属于哪个模式类。

这种方法的优点是它能反映模式的结构特征，而且对模式的结构特征变换不敏感，因此比较适合联机识别。

但是由于抽取字符的基元比较困难，因而不是特别适合用于脱机识别，同时这一方法的理论基础还不可靠，抗干扰能力比较弱。

（3）逻辑特征法就是其特征的选择对一类模式识别问题来说是独一无二的，即在一类问题中只有1个模式具有某1种(或某1组合的)逻辑特征，此方法律立了关于知识表示及组织，目标搜索及匹配的完整体系;对需通过众多规则的推理达到识别目标的问题，有很好的效果，但当样品有缺损，背景不清晰，规则不明确甚至有歧义时，效果不好。

（4）模糊模式方法就是在模式识别过程中引入了模糊集的概念，由于隶属度函数作为样品与模板相似程度的量度，故能反映整体的、主要的特性，模糊模式有相当不匀称的抗干扰与畸变，从而允许样品有相当程度的干扰与畸变，但准确合理的隶属度函数往往难以建立。

目前有学者在研究，并将其引入神经网络方法形成模糊神经网络识别系统。（5）神经网络方法就是使用人工神经网络方法实现模式识别。

可处理某些环境信息十分复杂，背景知识不清楚，推理规则不明确的问题，允许样品有较大的缺损、畸变。

神经网络方法的缺点是其模型在不断丰富完善中，目前能识别的模式类不够多，神经网络方法允许样品有较大的缺损和畸变，其运行速度快，自适应性能好，具有较高的分辨率。上述几种识别方法各有特点。

结构法比较直观，能较好反映事物的结构特性：问题是基元的提取很不容易，各基元的关系也比较复杂，抗干扰性能也较差。统计法用计算机来抽取特征，比较方便，抗干扰性能强；缺点是没有充分利用模式的结构特性。

神经网络方法由于处理的并行性，可以快速同时处理大容量的数据，工作时具有高速度和潜在超高速，并且，网络的最终输出是由所有神经元共同作用的结果，一个神经元的错误对整体的影响很小，所以其容错性也非常的好。

基于以上的考虑，本文的手写数字识别采用了神经网络的方法。3图像预处理与特征提取手写体图像数据在没有进行一定的图像预处理和特征提取之前，不能立即应用到程序中进行神经网络训练和字符识别工作。

从图像处理角度来说，手写体的字符识别对字符是不是有颜色是不关心的，而对此图像的清晰度是很关心的。所以在图像进行一系列的图像处理工作是很有必要的。

图像的预处理是正确、有效提取图像特征的基础，有效的图像特征作为网络的输入值才能进行正确的神经网络训练和最终得到正确、有效的网络权重。

3.1数字图像预处理3.1.1灰度化处理彩色图像包含了大量的颜色信息，不但在存储上开销很大，在处理上也会降低系统的执行速度，因此在对图像进行识别等处理中经常将彩色图像转变为灰度图像，以加快处理速度。

由彩色转换为灰度的过程称为灰度化处理。灰度图像就是只有强度信息而没有颜色信息的图像，存储灰度图像只需要一个数据矩阵，矩阵每个元素表示对应位置像素的灰度值。

彩色图像的像素色为RGB(R，G，B)，灰度图像的像素色为RGB(r，r，r)，R，G，B可由彩色图像的颜色分解获得。而R，G，B的取值范围是0-255，所以灰度的级别只有256级。

灰度化的处理方法主要有如下三种:最大值法、平均值法和加权平均值法。本文用到的加权平均值法来处理，即更换每个像素的颜色索引(即按照灰度映射表换成灰度值)。

权重选择参数为：红：0.299绿：0.587蓝：0.114例如某像素点颜色对应的灰度值计算公式为:NewPixColor?(BYTE)(0299*Red?0.587*Green?0.114*Blue)系统输入的源图像支持3通道或者4通道图像，支持Format24bppRgb,format32bppRgb,Format32bppArgb和Format8bppIndex这4种像素格式。

3.1.2二值化处理二值图像是指整幅图像画面内仅黑、白二值的图像。在数字图像处理中，二值图像占有非常重要的地位。

在实际的识别系统中，进行图像二值变换的关键是要确定合适的阈值，使得字符与背景能够分割开来，二值变换的结果图像必须要具备良好的保形性，不丢掉有用的形状信息，不会产生额外的空缺等等。

采用二值图像进行处理，能大大地提高处理效率。二值化的关键在于阈值的选取，阈值的选取方法主要有三类：全局阈值法、局部阈值法、动态阈值法。

全局阀值二值化方法是根据图像的直方图或灰度的空间分布确定一个阀值，并根据该阀值实现灰度图像到二值化图像的转化。

全局阀值方法的优点在于算法简单，对于目标和背景明显分离、直方图分布呈双峰的图像效果良好，但对输入图像量化噪声或不均匀光照等情况抵抗能力差，应用受到极大限制。

局部阀值法则是由像素灰度值和像素周围点局部灰度特性来确定像素的阀值的。

Bernsen算法是典型的局部阀值方法，非均匀光照条件等情况虽然影响整体图像的灰度分布却不影响局部的图像性质，局部阀值法也存在缺点和问题，如实现速度慢、不能保证字符笔划连通性、以及容易出现伪影现象等。

动态阀值法的阀值选择不仅取决于该像素灰度值以及它周围像素的灰度值，而且还和该像素的坐标位置有关，由于充分考虑了每个像素邻域的特征，能更好的突出背景和目标的边界，使相距很近的两条线不会产生粘连现象。

在图像分割二值化中，自动闽值选取问题是图像分割的关键所在。事实证明，闽值的选择的恰当与否对分割的效果起着决定性的作用。本文采用全局阈值的方法，实现将图像二值化的功能。

如果某个像素的值大于等于阈值，该像素置为白色；否则置为黑色。系统程序目前仅支持8bpp灰度图像的转换，阈值介于0~255之间，程序中取220。

3.1.3去离散噪声原始图像可能夹带了噪声，去噪声是图像处理中常用的手法。通常去噪用滤波的方法，比如中值滤波、均值滤波，本文中去除离散噪声点采用中值滤波的方法。

中值滤波法是一种非线性平滑技术，它将每一象素点的灰度值设置为该点某邻域窗口内的所有象素点灰度值的中值，让周围的像素值接近的真实值，从而消除孤立的噪声点。