为什么要对训练好的神经网络进行测试？目的是什么？测试和训练过程区别是什么？

训练得到拟合程度高的网络，测试样本的准确率未必高。一个好的网络应该具有很好的泛化能力。

可以这样理解，训练是根据你输入的数据通过修正权值来减小误差得到网络模型，测试是用另外的数据去测试网络的性能。

贴出的代码比较少，从贴出的代码来看，trtestMask{1}的{1}代表trtestMask是一个cell格式，{1}是cell中的第一个元素。

因为matlab的工具箱中，通常会储存很多信息，信息格式不同，就要用cell来存储，

楼主可以打开trtestMask来看看其它trtestMask{2}，trtestMask{3}里存的什么信息，可能能推出trtestMask{1}的实际意思。

楼主的程序最好全部贴出，数据也贴出 这样才能知道它的具体意思。

纯手打

假设现在有12个月的数据，从1月-12月。

方案一：设置1月-6月为训练集，7月-9月为测试集，10月-12月为验证集；

方案二：设置1月-6月为训练集，7月-9月为验证集，10月-12月为测试集。 

训练集：是用于训练的样本集合，主要用来训练神经网络中的参数。

验证集：用于验证模型性能的样本集合，不同神经网络在训练集上训练结束后，通过验证集来比较判断各个模型的性能，这里的不同模型主要是指对应不同超参数的神经网络，也可以指完全不同结构的神经网络。

测试集：对于训练完成的神经网络，测试集用于客观的评价神经网络的性能。

扩展资料：

时间序列数据是在不同时间上收集到的数据，用于所描述现象随时间变化的情况。这类数据反映了某一事物、现象等随时间的变化状态或程度。

很多计量经济学的模型也用到了时间序列数据。比如2000—2005年我国的国内生产总值数据就是时间序列数据。

时间序列数据可分为平稳过程、去趋势平稳过程以及差分平稳过程等等很多种类。

时间序列数据的缺陷是无法对与时间相关的变量进行控制。

MATLAB中BP神经网络的训练算法具体是怎么样的

先用newff函数建立网络，再用train函数训练即可。

1）正向传播：输入样本－>输入层－>各隐层（处理）－>输出层注1：若输出层实际输出与期望输出（教师信号）不符，则转入2）（误差反向传播过程）2）误差反向传播：输出误差（某种形式）－>隐层（逐层）－>输入层其主要目的是通过将输出误差反传，将误差分摊给各层所有单元，从而获得各层单元的误差信号，进而修正各单元的权值（其过程，是一个权值调整的过程）。

BP算法实现步骤（软件）：1）初始化2）输入训练样本对，计算各层输出3）计算网络输出误差4）计算各层误差信号5）调整各层权值6）检查网络总误差是否达到精度要求满足，则训练结束；不满足，则返回步骤2）注：改进算法—增加动量项、自适应调整学习速率（这个似乎不错)及引入陡度因子。

谷歌人工智能写作项目：小发猫

如何利用matlab进行神经网络预测

matlab带有神经网络工具箱，可直接调用，建议找本书看看，或者MATLAB论坛找例子人工神经网络原理公式，人工神经网络基本原理。

核心调用语句如下：%数据输入%选连样本输入输出数据归一化[inputn,inputps]=mapminmax(input_train);[outputn,outputps]=mapminmax(output_train);%%BP网络训练%%初始化网络结构net=newff(inputn,outputn,[88]);nettrainParamepochs=100;=001;=001;%网络训练net=train(net,inputn,outputn);%%BP网络预测%预测数据归一化inputn_test=mapminmax('apply',input_test,inputps);%网络预测输出an=sim(net,inputn_test);%网络输出反归一化BPoutput=mapminmax('reverse',an,outputps);%%结果分析。

matlab神经网络工具箱的网络训练问题 5

。

楼主，首先，我不是高手其次，你的T中间的00最好分开写，还有threshold中的01（如果是要分开的话）再次，newff中的，我改成了这样net=newff(threshold,[5,5],{‘tansig’,’logsig’},‘traingdx’);单引号要切换成英文输入后打进去最后，我的可以运行了。

关于MATLAB的bp神经网络模型的训练和验证

可能发生了过度拟合的问题，导致网络泛化能力不足。你训练的样本波动性很强，但是你检验的样本波动性很弱，神经网络在适应变化极大的问题时，效果不太好。

泛化：当某一反应与某种刺激形成条件联系后，这一反应也会与其它类似的刺激形成某种程度的条件联系，这一过程称为泛化。

在心理学心理咨询中所谓泛化指的是：引起求助者目前不良的心理和行为反应的刺激事件不再是最初的事件，同最初刺激事件相类似、相关联的事件（已经泛化），甚至同最初刺激事件不类似、无关联的事件（完全泛化），也能引起这些心理和行为反应（症状表现）。

找高手教我matlab的神经网络训练 20

。

%运用比例共轭梯度动量算法来训练BP网络clearall;pause(1);P=[0145201466013140224303523046420501506981078210834509649115602415030270;0121701581014080230403143043120581907125080650864709726113202385031250;0152501627015070240603502046360505107352084590891509654115602216027011;01016011050123401978030210423205819069520801508725098251095023520250605;0111501201013120201903532047360502907032081890861909365112502542031250;0133501322015340221403623048270519807276083590890609592114302601031980;0136801432016530220503823049710513607129082630895309891113702579030990;01342013680160202131037260482205101070980812708921099951126023010286705;0111301212013050181903952043120588606898079990842309721109502234027991;0100501121012070160503556040220555306673077980862309521108702314029770]';T=[01217015810140802304031430431205819071250826508847098261132;01525016270150702406035020463605051073520845908915094641156;01016011050123401978030210423205819069520801508825098251102;01115012010131202019035320473605029070320818908919099651125;01335013220153402214036230482705198072760835908506098921123;01368014320165302205038230497105136071290826308953096911117;01342013680160202131037260482205101070980812708921099951126;01113012120130501819039520431205886068980799908323097211156;01005011210120701605035560402205553066730779808623095211156;01123012570134302079035790471605459071450820508901094191136]';threshold=[01;01;01;01;01;01;01;01;01;01;01;01;01;01;01];net=newff(threshold,[32,12],{'tansig','logsig'},'trainscg','learngdm');%新建BP神经网络nettrainParamepochs=1000;%bp网络训练次数=0002;%网络训练目标=001;%网络学习速率[net,tr]=train(net,P,T);%训练网络P_test=[0112301257013430207903579047160545907145082050890109419113602317029360]';%网络输入数据Out=sim(net,P_test);%网络仿真X=[01119012150162102161034710463905555070610824308923095221129];%实际测得数据t=1:1:12;boxoff;gridoff;plot(t,Out,'b',t,X,'r');%画出二维图形set(gca,'Xtick',0:1:24,'Ytick',0:1:14);%设置坐标title('基于BP网络的设备故障时间序列预测');xlabel('时间/2小时');ylabel('加速度/g');text(15,12,'预测振动曲线(蓝）');text(15,11,'实际测试曲线(红）');。

MATLAB BP神经网络训练 30

。

你的程序训练完毕后根本就没达到目标误差，就是说训练效果不好，不能进行预测，只有训练结果好了才能预测仿真，你再改一下隐含层神经元数或者训练和传递函数试试吧~另外输入层的值可以归一化也可以不归一化，归一化后在仿真之前要反归一化。

1、数据集，包括训练数据和验证数据集。

2、学习率，是参数回归的步长，关系到学习模型的拟合程度，要根据模型和经验设定。

3、训练次数，也就是训练的回合数。

4、神经层，可以添加任意层数。

5、神经元，每一层的神经网络可以设置有多少个神经元。

训练集  ( Training set ）

       作用是用来拟合模型，通过设置分类器的参数，训练分类模型。后续结合验证集作用时，会选出同一参数的不同取值，拟合出多个分类器。

验证集  ( Dev set )

       作用是当通过训练集训练出多个模型后，为了能找出效果最佳的模型，使用各个模型对验证集数据进行预测，并记录模型准确率。选出效果最佳的模型所对应的参数，即用来调整模型参数。如svm中的参数c和核函数等。

测试集 ( Test set )

       通过训练集和验证集得出最优模型后，使用测试集进行模型预测。用来衡量该最优模型的性能和分类能力。即可以把测试集当做从来不存在的数据集，当已经确定模型参数后，使用测试集进行模型性能评价。

一个有助于理解的形象比喻：

        训练集 ——  课本，学生根据课本里的内容来掌握知识。

        验证集 —— 作业，通过作业可以知道 不同学生学习情况、进步的速度快慢。

        测试集 ——  考试，考的题是平常都没有见过，考察学生举一反三的能力。

        训练集  直接参与了模型调参的过程，显然不能用来反映模型真实的能力（防止课本死记硬背的学生拥有最好的成绩，即防止 过拟合 ) 。

        验证集  参与了人工调参(超参数)的过程，也不能用来最终评判一个模型（刷题库的学生不代表其学习能力强）。

       所以要通过最终的考试 (测试集) 来考察一个学生(模型)真正的能力。

       如何将只有一个包含m个样例的数据集D，产生出训练集S和测试集T（验证集可以省略）？主要有以下三种方法：

自助法 （ bootstrapping ）

       给定m个样本的数据集D，我们对它进行采样产生数据集D'，每次随机从D中挑选一个样本，将其拷贝入D'，然后再将样本放回原始数据集D。显然，该样本在下次采样时任然有可能被采到。这个过程重复m次后，我们就得到了含有m个样本的数据集D'，这就是自助采样的结果。         样本有重复采样，也有一次也没有被采到的。从未采到的结果是 ,取极限得到

因此，使用自助法约有1/3的数据集没有被选中过，它们用于测试，这种方式叫“外包估计”。

       自助法在数据集小，难以划分训练集、测试集的时候有很大的效果，如果数据集足够大的时候，留出法和交叉验证是更好的选择。

留出法 （ hold-out ）

       将整个数据集D划分为两个互斥的集合，其中一个作为训练集S，另一个作为测试集T。即，D=S∪T，S∩T=∅。在S上训练出模型，T作为测试集，来评估模型效果。

       当样本数据量较小(10000条左右及以下)时，通常取其中70%作为训练集，30%作为测试集；或60%作为训练集，验证集和测试集各20%。

交叉验证法 （ cross validation ）

       如图所示，交叉验证法的实现流程大致如下：

       (1) 将整个数据集分成k个大小相似的子集，即D=D1∪D2∪∪Dk，Di∩Dj=∅（故又称k折交叉验证法，通常取k=10 ）。

       (2) 对于每一个模型Mi，算法执行k次，每次选择一个Sj(1≤j≤k)作为测试集，其它作为训练集来训练模型Mi，把训练得到的模型在Sj上进行测试，这样一来，每次都会得到一个误差E，最后对k次得到的误差求平均，就可以得到模型Mi的泛化误差。

       (3) 算法选择具有最小泛化误差的模型作为最终模型，并且在整个训练集上再次训练该模型，从而得到最终的模型。

       交叉验证的主要的目的是 为了选择不同的模型类型（比如一次线性模型、非线性模型） ，而 不是为了选择具体模型的具体参数 。比如在BP神经网络中，其目的主要为了选择模型的层数、神经元的激活函数、每层模型的神经元个数（即所谓的超参数），每一层网络神经元连接的最终权重是在模型选择（即K折交叉验证）之后，由全部的训练数据重新训练。

       假设这就是数据集，显然用简单分类器（如逻辑回归）并不能很好地拟合上述数据。这种情况称为  欠拟合  。

       相反地，如果采用一个非常复杂的分类器（如深度神经网络或含有隐藏单元的神经网络），拟合效果会非常好。但与此同时，模型的复杂度也会过高，这种称为 过拟合  。

       在两者之间，可能会存在一些复杂程度适中、数据拟合适度的分类器，拟合结果较为合理，称为 适度拟合 。

       如上图所示，训练集误差和验证集误差均较高时为 高偏差(欠拟合)  情况；训练集误差较高，验证集误差较高低时为  高方差(过拟合)  情况。

(1) 如何减小偏差(防止欠拟合)

       ① 增大神经网络规模。

(2) 如何减小方差(防止过拟合)

       ① 增加数据集样本数量；

       ② 正则化。

        参数   是指神经网络中由数据驱动并进行调整的变量，如𝑊和𝑏。

        超参数   是指无需数据驱动，而是在训练前或者训练中人为进行调整的变量。例如算法中的learning rate 𝑎（学习率）、iterations(梯度下降法循环的数量)、𝐿（隐藏层数目）、𝑛[𝑙]（隐藏层单元数目）、choice of activation function（激活函数的选择）等都需要人为设置，这些数字实际上控制了最后的参数𝑊和𝑏的值，所以它们被称作超参数。

       神经网络中的超参数主要分为三类：网络参数、优化参数、正则化参数。

​网络参数

       可指网络层与层之间的交互方式（相加、相乘或者串接等）、卷积核数量和卷积核尺寸、网络层数（也称深度）和激活函数等。

优化参数

       一般指学习率（learning rate）、批样本数量（batch size）、不同优化器的参数以及部分损失函数的可调参数等。

正则化参数

       权重衰减系数，随机失活比率（dropout）等。

       正则化有利于减小训练集和验证集准确率的方差，防止过拟合。在无法增加样本数量或增加样本数量的成本过高时，正则化是一种行之有效的方法。

        一般将任意 维向量  的 - 范数定义为

       根据定义：

       当 时， 的 范数为 ，表示向量 中非0元素的个数。

       当 时， 的 范数为 ，等于向量 中所有元素的绝对值之和。

        当 时， 的 范数为 ，等于向量 中所有元素的平方和开根号。

       正则化（Regularization） 的主要目的是控制模型复杂度，减小过拟合。最基本的正则化方法是在原目标（代价）函数 中添加惩罚项，对复杂度高的模型进行“惩罚”。

       对于神经网络模型， 正则化即在其代价函数中添加 正则项：

其中， 。之后再求解优化问题 即可。

       假设某三层神经网络存在过拟合问题，采用dropout正则化会遍历网络的每一层，并设置消除该层中每一个节点的概率（比如05），最后得到一个节点更少、规模更小的网络，然后再用反向传播方法进行训练，就能有效防止过拟合。

       最常用的方法是 inverted dropout（反向随机失活） 。对于一个三层神经网络( )，以第三层为例，实施dropout的步骤如下：

① 定义一个三层dropout矩阵d3：

                                     d3=numpyrandomrand(a3shape[0],a3shape[1])

其中，a3表示神经网络第三层的激活函数矩阵。

② 设置 ( )的大小。 表示保留某个隐藏单元的概率。将第①步产生的随机矩阵d3的每个元素与 进行比较，小于置1，大于置0，得到新的d3矩阵（1表示保留该节点，0表示删除该节点）。

③ 将a3与新的d3矩阵相乘(矩阵对应元素相乘)，得到新的激活函数矩阵：

                                                       a3 =npmultiply(a3,d3)

④ 将新的a3矩阵除以keep-prob：

                                                              a3 /= keep_prob

目的是保证a3的期望值(均值)不变，从而保证第三层的输出不变。

① 使用dropout可以使得部分节点失活，可以起到简化神经网络结构的作用，从而起到正则化的作用。

② 因为dropout是使得神经网络的节点随机失活，这样会让神经网络在训练的时候不会使得某一个节点权重过大。因为该节点输入的特征可能会被清除，所以神经网络的节点不能依赖任何输入的特征。dropout最终会产生收缩权重的平方范数的效果，来压缩权重，达到类似于 正则化的效果。

① dropout在测试阶段不需要使用，因为如果在测试阶段使用dropout可能会导致预测值产生随机变化(因为dropout使节点随机失活)。而且，在训练阶段已经将权重参数除以keep-prob来保证输出的期望值不变，所以在测试阶段没必要再使用dropout。

② 神经网络的不同层在使用dropout的时候，keep-prob可以不同。因为可能有的层参数比较多，比较复杂，keep-prob可以小一些，而对于结构比较简单的层,keep-prob的值可以大一些甚至为1，keep-prob等于1表示不使用dropout，即该层的所有节点都保留。

      加快训练速度。

       对于一个神经网络模型，考虑其代价函数：

       如果未归一化输入，其代价函数的形状会较为细长狭窄。在这样的代价函数的限制下，为避免陷入局部最优解，梯度下降法的学习率必须设置得非常小。

       如果归一化输入，代价函数便呈现球形轮廓。这种情况下，不论从哪个位置开始梯度下降法，都能使用较大的学习率，从而更快速、直接地找到全局最优解。

      对于包含n个特征的m个样本的数据集，其输入归一化的过程主要分为两步：

① 零均值化

② 归一化方差

其中， 代表第 个样本的特征矩阵。

       训练集、验证集、测试集特征矩阵的平均值 和标准差 要保持一致，确保它们归一化后符合同一分布。