Ch4-数学建模方法

nullnull构效关系和分子 设计 领导形象设计圆作业设计ao工艺污水处理厂设计附属工程施工组织设计清扫机器人结构设计 研究的 数学建模方法第四章null引 言 QSAR/QSPA的建模方法很多, 有些学者将它们归结为下列几大类: 回归分析方法、模式识别方法和人工神经网络方法. 回归分析、多元统计分析是研究中的基本数学方法，由其所建立的QSAR/QSPA回归方程可应用于： 对未知属性的化合物进行分类； 将化合物的结构信息与活性类别联系起来； 预报未知物的活性/性能，寻找变化规律并探索原因，为分子设计提供理论基础。null 回归分析是经典的建模方法，一般可获得因果关系且物理意义明了的模型，但必须满足条件：参数间必须正交(不相关)；样本数大于变量数，一般是4或5倍以上. 模式识别方法和人工神经网络方法等应用也比较广泛。 人工神经网络是一种灰箱模型，实际应用效果很好，但没有明确的物理意义。 QSAR/QSPR研究通常包括以下环节：分子结构参数与活性参数的获取;分子结构结构参数的选取；QSAR/QSPR模型的建立; QSAR/QSPR模型的解释、验证和应用.本章 目录 工贸企业有限空间作业目录特种设备作业人员作业种类与目录特种设备作业人员目录1类医疗器械目录高值医用耗材参考目录 本章目录4.1 回归分析法 4.2 聚类分析法 4.3 人工神经网络法 4.4 其他方法nullnull 回归分析、判别分析、因子分析、模式识别、主成分分析及聚类分析等多元统计分析方法常用于QSAR/QSPR的研究和建模。而普遍使用的分析方法有： 1. 直观型：即对结构-活性进行似真性推理。通过作图、列表等技术，并采用逻辑推理法来反映结构性质和生物活性的关系。缺点是当有几种参数与生物活性相关时就难以区分。 2. 回归分析：该方法是对一组数据进行最小二乘法拟合处理并建立函数关系的过程。拟合函数的统计一. 定量构效关系模型的求解方法null 回归分析分为线性回归和非线性回归。在QSAR/ QSPR ，对数据进行回归分析的内容有： 获得表示QSAR /QSAR关系的回归方程; 回归系数的显著性检验; 回归方程的显著性检验; 利用回归方程进行预报等。评价也是本方法的一部分。在典型的回归分析中，理化性质和结构参数的每种组合都应加以研究。对每种组合，可计算每个系数和总方程的统计意义。拟合方程的优劣可用统计量R、S、F等来检验。null1. 方程求解 对于n组数据，因变量y的观测值为: y1,y2,····, yn; 自变量x的取值为: x1,x2,····, xn . 设建立在这些数据基础上的一元回归方程为:二. 一元线性回归 式中a为回归线的截距； b为回归线的斜率，也称为回归系数。按最小二乘法可得： nullnull常数a与回归系数b的 标准 excel标准偏差excel标准偏差函数exl标准差函数国标检验抽样标准表免费下载红头文件格式标准下载 偏差为:估计值的标准偏差为Se如下, 此值越小,回归方程的精度越高.null如果t> t α/2或t<- t α/2, 则检验结果表明两变量和之间存在线性关系, 否则就无线性关系。 2. 回归系数显著性检验 对系数b作t检验以判定因变量和自变量之间的线性相关程度.假定检验的显著水平为α(例如α =0.05),从t值表中查出自由度f=n-2下的临界值t α/2, 并按下式计算检验的统计 t:null3. 回归方程的相关系数及其显著性检验 相关系数r 是因变量和自变量之间相关程度的度量.可用于判定回归方程的意义，其计算式为： 相关系数的取值范围为|r|≤1。 r =0表明y和x之间线性无关； r =±1表明y和x之间呈线性函数关系，完全线性相关。正相关和负相关。相关系数越大，相关性就越强。 null 显著性检验：利用相关系数检验表，设在一定显著水平α下对应独立变量数、剩余自由度(n-2)的相关系数临界值为rα, 若|r|>rα则变量y、x在显著水平α上相关，回归方程有意义，否则所建立的回归方程无意义。相关系数r 与t之间的关系: 对回归系数作显著性检验与对相关系数作显著性检验的结果是一致的。在一元回归方程中通常对相关系数作检验就可以了。null4. 方差分析 通过回归方程的的方差分析，可给出判断回归效果好坏的标准。对变量y与它的平均值的总偏差平方和进行分解：nullQ：剩余(残差)平方和，由随机因素和测量误差所引起 从回归平方和与剩余平方和的含义可知一个回归方程的效果好坏取决于U和Q的相对大小，即在总偏差平方和中的比例U/Syy。该比例越大，回归效果越好。U、Q与r的关系： 可知：r的绝对值越大，回归效果越好；因U≤Syy，故r 2≤ 1。null自由度分析: 总偏差平方和的自由度f总等于回归平方和的自由度fU与剩余平方和的自由度fQ之和： 在回归问题上，f总=n-1，而fU与对应于自变量的个数。因此，一元线性回归问题，fU =1，fQ=n-2。剩余均方(方差): 在排除x对y的线性影响后，y随机波动大小的一个估计量，定义为：并将剩余方差的平方根称之为剩余标准偏差。null 上述将偏差平方和及自由度进行分解的方法叫方差分析法，其所有结果可归纳成一个方差分析表。一元线性回归的方差分析表null5. 曲线回归 下列情况可视为线性模型，因系数与因变量成线性关系下列非线性数学模型可转化为线性方程：null1. 方程求解 设因变量y与 自变量 x1, x2, ····, xp 的线性回归模型为： 式中b0为常数，b1~bp为回归系数，ε为样本数，为随机误差。按最小二乘法可获得回归系数： 三. 多元线性回归nullbi即下列p元线性方程组的非零解： 式中Cij是正规方程的系数矩阵的逆阵元素，即： null 2. 方差分析: 回归平方和与剩余平方和 对因变量y的总偏离和进行分解： 称U为回归平方和，它反映了自变量的变化所引起的波动；Q称为残差平方和，它是由随机因素和测量误差所引起的。 标准偏差为： null F检验与复相关系数R ： null 相关系数|R|≤1。 R越大，表示回归平方和U在总偏差平方和中所占的成分越大, 即说明回归效果越好. R>0.9, 一般认为回归效果显著.方差分析表null3. 各自变量的显著性检验 F检验是对整个回归方程的检验，即对回归方程中全部自变量的检验。为了考察各自变量xi的重要性，还需逐一检验bi的显著性： t检验： 对于给定的数据xi1,xi2,…,xip, yi, i=1,2,….,n, 依上式得ti值, 再由给定的显著性水平α, 查t值分布表, 得临界值 tα. 当ti > tα时, 认为在该显著水平下, 因变量y与自变量xi之间有显著的线性关系.否则,认为xi对y的影响不显著，无线性关系. null 某一自变量的贡献———偏回归平方和Vi 已知多元回归方程的平方和为： 从p个自变量中去掉xi，重新计算余下的（p-1）个变量的回归系数bi’, 并算出相应的回归平方和： 记 Vi=U－U′ =Q′－Q Vi 即在p个量的回归方程中的贡献，称为偏回归平方和。可 证明 住所证明下载场所使用证明下载诊断证明下载住所证明下载爱问住所证明下载爱问 ：nullVi 即越大，相应的xi就越重要。 偏相关系数Ri或Ri是在ｐ个变量中，不含xi就的其余(ｐ-１)个变量的相关系数。 |Ri|≤1null 统计量Fi自由度分别为1和(n-ｐ-１) 中。它可用于检验xi贡献的显著性。当算出的Fi大于临界值Fα时，认为xi的贡献显著；否则xi的贡献不显著。 Ri 与Fi的关系 Fi 与ti的关系null 四、 逐步回归分析 应用多元回归分析的方法建立“最优”回归方程以便对因变量进行预报或控制，即希望在回归方程中包含所有对因变量影响显著的自变量而不包含对影响不显著的自变量的回归方程。逐步回归分析正是根据这种原则提出来的一种回归分析方法，从参数中选取重要的变量而剔除不重要的变量。它是根据各个自变量重要性的大小，每步选择一个重要变量进入方程。1. 基本思路null实施过程：每一步都要对已引入回归方程的变量计算其偏回归平方和(即贡献)Vi, 然后选一个Vi最小的变量, 在预先给定的F水平下进行显著性检验, 若显著则该变量留在回归方程中, 且其它变量也都不需要剔除。若不显著, 则剔除该变量, 然后按Vi由小到大地依次对方程中其它变量进行F检验。将对y影响不显著的变量全部剔除, 保留显著性变量。接着再对未引人回归方程中的变量分别计算Vi, 并选其中Vi最大的一个变量, 同样在给定水平下作F显著性检验, 如果显著则将该变量引入回归方程, 这一过程一直继续下去, 直到在回归方程中的变量都不能剔除而又无新变量可以引入时为止, 这时逐步回归过程结束。 null计算均值2. 计算步骤(1). 第一阶段：建立正规方程计算离差阵正规方程标准化null(2). 第二阶段：逐步计算 设已计算了L步(包括L=0)，回归方程已引入L个变量，则第L+1的计算内容为： ①算出全部变量的贡献： ②在已引入的变量中考虑剔除可能存在的不显著变量. 选择贡献值最小的那个进行计算：null式中：若F≤Fa，则把xK从方程中剔除掉[其后计算见步骤③] 若F＞Fa则考虑从未引入的变量中选择最显著的那个量，并计算F.若F＞Fa，则把xK引入回归方程，其后计算见步骤③. 否则逐步计算阶段结束。进入第三阶段。null式中： ③ 对需要剔除或引入的xK作一次消去运算：这时已引入回归方程的xK ，回归系数由下式确定：null 第L+1步结束，其后重复①～③进行下步计算。在既不能引入，也无法剔除的情况下，逐步计算结束，转入下阶段。(3). 第三阶段：结尾 计算b0，残差ek以及复相关系数等统计量，其中： 式中求和仅对已选变量xi进行。nullnull 聚类分析 是一种多元统计分类方法，用该法可对一群不知类别的观察对象按彼此相似的程度进行分类。聚类分析又称群分析、聚类群分析、簇丛分析等。该方法是按照样本（如不同化合物或不同的取代基等）或变量（如不同的结构信息参数或虚潜变量）之间的相似程度，用数学方法将样本或变量分组盛器成群。当获得一批原始数据时，根据分子结构、取代基及理化性质、生物性质等对化合物进行分组，研究各组之间关系。这种方法对药物设计、新化合物合成及QSAR/QSPR分析是一种重要的手段。 一 、 概 论null1. 基本思想 从一批样本的多个观测指标中，找出能度量指标之间相似程度的统计量，构成一个对称的相似矩阵,并进一步寻找各变量组合之间的相似程度，并按相似程度的大小，把变量逐一归类。关系密切的归类聚集到一个小的分类单位，关系疏远的归类到一个大的分类单位，直至所有的变量聚类完毕，形成一个亲疏关系谱系图，用以更自然地和更直观地显示分类对象的差异和联系。聚类分析可以对不同的化合物、不同的取代基或不同的结构信息参数进行分类，使相似的化合物、相似的取代基或相似的结构信息参数分别聚集在一起, 达到分类的目的。利用聚类分析有助于挑选变量, 分析影响活性的原因.null2. 聚类分析的方法分类(1)系统聚类法------（分层聚类）系统聚类法是应用最广泛的一种。 1） 聚类原则：都是相近的聚为一类，即距离最近或最相似的聚为 一类。 2） 分层聚类的方法可以用于样本聚类(Q型)，也可以用于变量聚类(R型)。 (2)非系统聚类法-----（快速聚类法----K-均值聚类法）（K-means Cluster). (3)两步聚类法-----一种探索性的聚类方法（TwoStep Cluster）.null二. 聚类分析的步骤和方法(1) 原始数据的标准化 首先定义一些分类统计指标 —— 刻画样本或指标之间的相似程度，这些统计指标称为聚类统计量，也称为特征参量。 假定每个样本包含有p项指标，有n个样本相应数据供使用。将每一个样本看成k维空间中的一个向量:null 标准差标准化 正规化 式中，xij为第j个变量的第i个值； xij(max)和xij(min)分别为第j个变量的最大值和最小值。null(2) 确立相似性度量关系 距离法：两样本之间距离越小越相似，零距离表示两样本完全相同。距离的定义较多，如决定距离、马氏距离、绝对距离、欧氏距离等，最常用的是欧氏距离。其定义为： 式中，j为变量的编号；n为样本的总数；p为变量总数；xij、xlj分别为第i、第l个样本的第j个变量的数据标准化值。null 相似系数法：通常以两样本向量之间的夹角余弦来度量，夹角余弦越大越相似，夹角余弦为1时表示两样本完全相同。相似系数:进一步还可以构造相似系数矩阵。nulln 个样本的相似系数矩阵根据算出的q，就可对n个样品进行聚类.null 相关系数法：两样本向量之间的相关系数rij越大样本越相似，|rij|为1时表示两样本完全相同。进一步还可以构造相关系数矩阵。null(3) 聚类方式与过程 聚类方式：分为系统聚类和动态聚类等。 系统聚类：把n个样本视为n类，类间距离就是样本之间的距离，将距离最小的两类合并成新的一类。计算新类与其它类之间的距离，按照距离最小原则对不同类别进行合并，重复此过程。每合并一次减少一类，直至n个类合并为一类为止。 聚间距离：有最短距离、最长距离、平均距离、重心法等。采用不同的类间距离定义，聚类的结果不完全一样。null(4) 基于相似系数的聚类方法分类原则： 1）若选出一对样品，在已分好的类中未出现，则形成一个独立新类。 2）若选出两个样品中，有一个是在已分好的类中出现过，则把另一个样品也加入到该类中去。 3）若选出一对样品，都分别出现已经分好的两类中，则把这两个类联结在一起。 4）若选出的一对样品都出现在同一组中，则这对样品就不用再分组了。 按上述四条原则反复进行，直到把所有样品都分类完毕，最后以分类图(谱图，由小到大)形式表示。null三. 应用实例 某电冰箱厂开发某一新产品，在投放市场前希望对以往经销的国内6个地区征集对新产品的评价，若对新产品的评价指标有三项：式样、性能、颜色，评价的调整表采用10分制，调查结果的数据如下表 用分类法对6个样品进行分类，以估计哪些地区最有可能经销这类新产品？null按公式计算两两样品间的相似系数，得相似矩阵按四条原则进行分类null作聚类分析图X3 X6 X1 X4 X2 X510.9940.9550.9940.933nullnull 二十世纪八十年代，人工神经网络取得了重大进展，在诸如手写体邮政编码判读，蛋白质二级结构的识别，热力学物性参数的求取，催化剂设计等许多方面取得成功，发展成为一门介于物理、数学、计算机科学、神经生物学之间的交叉学科。这门学科的发展对目前和未来的科学技术的发展将有重要的影响。 人工神经网络(ANN) 是模拟人脑结构和功能的一种信息处理系统, 也是QSAR研究的重要方法之一.一. 概 论null 从人脑的结构看，它是由大量神经细胞组合而成的，这些细胞相互联接，每个细胞完成其某一种基本功能，如兴奋与抑制。从整体看，它们相互整合完成一种复杂的计算机思维活动，这些工作是并行的，有机的关联在一起，这种集体的功能就像用透镜得到图像的傅里叶变换一样，十分迅速，在人的日常生活中，每天都有成干上万的信息需要脑来处理，一个简单的动作如端一杯水，打一个电话，就牵涉到记忆、学习和相位变换等功能，而人却可以不加思索地完成，这就说明需要有一种新型的、类似于人脑结构的系统，来完成那些计算机做起来很慢或很困难的工作。 null 人工神经网络就是采用物理可实现的系统来模仿人脑神经细胞的结构和功能的系统。它是由很多处理单元有机地联接起来，进行并行的工作，它的处理单元十分简单，其工作则是“集体”进行的，它的信息传播，存贮方式与神经网络相似，它没有运算器、存贮器、控制器这些现代计算机的基本单元，而是相同的简单处理器的组合。它的信息是存贮在处理单元之间的连接上，因而它是与现代计算机完全不同的系统。 人工神经网络来源于对人脑实际神经网络的模拟. null1. 神经组织的基本特征 下图是一个神经细胞示意图，简称为神经元。细胞核所在部位为细胞体，从细胞体核状延伸出许多神经纤维，其中最长的一条称为轴突，它的末端化为许多细小的分支，称为神经末梢。从细胞体出发的其它树状分枝称为树突。一个细胞通过轴突与其它细胞的树突相连传递信号。所以，树突为细胞的输入，轴突为细胞的输出。神经末梢与树突的接触界面称为突触。null 因此，就功能而言，细胞体可以视为一个初等信号处理器。当信号从一个神经元经过突触传递到另一个细胞体，可以产生两个效果：接受信号的细胞电位升高或者降低。当细胞体内的电位超过某一阈值时，则信号被激发，它也会通过轴突传出一个有固定强度的持续时间的脉冲信号传给下游神经末梢。此时该细胞称为激发态。当细胞体内电位低于某一阈值时，不产生任何信号输入，处于抑制状态。 大体上说，一个神经元有104量级的输入通道，大致也有同样数量级的下游神经元与之相联。每几千个彼此稠密联接的神经元构成一个集合体，而大脑皮层则有许许多多的这样的集合体象瓷砖一样拼接而成。2. 人工神经元的M—P模型 2. 人工神经元的M—P模型 从具体的一个神经元来说，就是要建立一个数学模型，描述对输入讯号的整和输出过程。从全局来看，多个神经元构成一个网络，必须给出如下三方面的要素： （1）对单个人工神经给出某种形式定义； （2）决定网络中神经元的数量及彼此间的联结方式。或者说，定义网络结构； （3）给出一种方法，决定元与元之间的联结强度，使网络具有某种预定功能。 null 人工神经元也称处理单元（PE), 具有如下功能: (1). 处理各个输入信号以确定其强度——加权; (2). 确定所有输入信号的组合效果(净输入)——求和; (3). 将净输入非线性变换为输出信号——转换函数(F). 1943年，仿照人工神经元的基本特征，McCulloch和Pitts提出了历史上第一个神经元模型，称为M—P模型，这一模型形式上表示为：null 其中t表示时间，它只取离散值，两个持续时间间隔为一个时间单位。Si(t)表示第i个神经元在t时刻所处的状态，Si(t)=1表示处于激发态，Si(t)=0表示处于抑制态。由于q(x)的函数形式，每个神经元只有两个状态。Wij是一个实数，刻画j个元到i个元的联结强度，称之为权，其值可正可负。∑WijSj(t)表示第i个神经元在t时刻收到信号的线形迭加。i 是元i 的阈值，当元i的输入讯号加权和超过i时，元才会被激发。在此模型中，i可以并入权中，得到简化。下图是M—P模型的示意图。null 由此可见M—P模型已经捕捉到了神经元细胞的一个最基本的特征，即输入与输出之间的非线形的关系，这当然不是指其具体函数形式。就功能上说，它已构成一个强有力的元件。由这样的一些人工神经元组成的网络，如不强调速度和方便，可以象一台普通数字计算机一样，完成任何计算。null 人工神经网络是根据生物神经网络所获得的启示而设计的，其基本结构包括：(1). 人工神经元 ANN的基本处理单元是人工神经元(也称节点)，其主要功能是：接受、处理和输出信号。(2). 连接权重 也称为权重或连接强度，其主要功能是：接受、处理和输出信号。1. 基本组成二. 人工神经网络的基本结构null(3). 连接模式 在ANN网络中，信号是通过人工神经元之间的连接传递的。神经元之间相互连接的方式称为连接模式，也叫网络的连接矩阵。原则上，一个神经元可以和任何一个神经元连接。分层连接。前馈连接和反馈连接。(4). 学习算法 在网络的学习过程中，连接权重将不断地被修改，同时将知识逐步储存在网络中。修改连接权重的规则称为学习算法，其种类很多，误差反向传播算符是其中应用最广的一种。null多个人工神经元的结构与功能图示如下：null输入信号表示为输入行矢量X X= （ X0 , X1 , … …, XN ） 连接到神经元 j 的权表示为加权矢量Wj Wj =（ W0j , W1j , … … , WNj ） Wij的下标i为输入点编号, j为神经元编号. 偏置项θj 用Xo= -1表示, 其连接权W0j=θj (偏置项的作用是提高判别函数对于所处理的判别问题的稳定性). 输入的加权和sj可表示为输入行矢量与加权矢量的点积: sj= X .Wjnull 神经元连接成网络的简单做法：让一组几个神经元形成一层. 其中的加权构成加权矩阵W. 层与层可以进一步连接, 形成多层网络. 对于只涉及前馈全连接多层网络, 即每一个神经元只连接到下一层的所有神经元. 多层网络的一端是输入层, 另一端是输出层. 介于二者之间的都叫做隐蔽层. 神经网络结构是指网络有多少层、每层各有多少结点, 以及相互连接关系. 例如,下图是一个(6×8×4×1)神经网络(不包括偏置项):2. 人工神经网络的拓扑结构nullnull 多层神经网络除了输入层和输出层外还有隐含层，它处在输入层和输出层之间，且可以不止一层。 所有的神经元都具有输入、处理和输出信号的三个基本功能，它们都是通过功能函数来实现的。(1). 输入函数 在非线性神经网络中通常以线性加权作为神经元的输入函数，以神经元 j 为例，即：3. 神经元的功能函数null(2). 处理函数 亦称为活化函数、作用函数，通常用函数f(ij)表示。最常用的线性处理函数是恒同函数，最常用的非线性处理函数是S型压缩函数(Sigmoid函数)。处理函数还可以是随机函数，甚至是模糊型函数。 恒同函数，则aj表示神经元j的输入值经处理后得到的活化值。null S型压缩函数，则 aj表示神经元j的输入值经处理后得到的活化值，ij为神经元j输入加权平均和，是一个调节S型压缩函数的参数。其它的处理函数有双曲正切函数、线性函数、阶跃函数等。Sigmoid函数在BP学习中是一个强有力的工具。 null图 用于处理单元的几种常用激励函数 （a）线性函数（b）斜坡函数（c）阶跃函数 （d）符号函数（e）Sigmoid函数 （f）双曲正切函数null(3). 输出函数 输出函数 h(aj) 的作用是将活化值aj映射为一个输出信号oj，该信号可向多个方向传送。输出函数常用恒同函数表示，即：输出函数也可用阀值函数或随机函数表示。null三. 神经网络的学习方法 ANN的特征是可以学习. 要让它具有某种功能，必须先对它进行训练. 训练与学习是分别从人和网络两个不同的角度来讲的. 所谓学习, 实质上就是权重矩阵随外部激励作自适应变化. 训练就是相继加入输入矢量，按预定规则来调节网络权值. 在训练过程中，网络各权值都收敛到一确定值，以便对每个输入矢量都会产生一个要求的输出矢量. 调节权值所遵循的预定规则称为训练算法. 训练算法分为监督与无监督两类. 1. 训练算法null 监督训练需要输入矢量及与之对应的目标矢量，组成一个训练对; 很多训练对构成训练组. 加入一个输入矢量后，先计算实际输出，与相应的目标矢量比较，根据误差，按规定算法改变权值. 直到所有训练对的误差都达到可接受的最低值为止. 误差反向传播(BP)就是一种应用最广泛的监督训练算法. 在训练过程中，“过拟合”是一个常见问题，即随着迭代次数增加，训练集均方根偏差可能还在下降，但测试集均方根偏差却开始上升.为此,有关专家建议用测试集来监控训练过程，一旦测试集均方根偏差开始上升，无论训练集均方根偏差下降与否，均应停止训练.2. 监督训练null四. 反向传播(BP)网络1. BP神经网络的特点（1） 有隐含层：标准的BP型网络由三层构成，即:(底层) 输入层→隐含层→输出层，每一层中均可有多个神经元。层间神经元完全连接，但层内不连接。 单层人工神经网络null (2) 神经元的非线性由S型压缩函数实现。 (3) 训练网络的方法采用误差反向传播训练算法。 图：一种BP型神经网络null2. 训练网络的步骤（1）提供训练集：训练集的每个样本由一对输入与输出数据组成，一个样本输入数据的数目与输入层中神经元的数目相同，该样本的输入数据构成一个输入矢量。样本输出数据是网络的目标输出值，往往也是一个矢量。层间神经元完全连接，但层内不连接。 （2）原始数据的预处理：对输入数据作归一化处理，以消除量纲的影响。 （3）随机赋予网络中中各神经元之间的连接权重和各神经元的阀值以任意小的初始值。null（4）从训练集中取出一个样本作为当前的输入样本，根据其输入值和神经元的初始连接权重及阀值，计算网络对该样本产生的实际输出值。（5）计算样本的目标输出值与网络实际输出的计算值之间的误差。 （6）修改连接权重。通过迭代法逐步进行修正。（7）修改阀值。在对连接权重作调整的同时也对各神经元的阀值进行调整。null（9）重复上述步骤，网络开始学习下一个样本。 （10）网络训练好以后，只要给网络一个只有输入矢量，没有目标输出的预测样本，网络便立刻产生一个输出结果。（8）当目标输出与网络实际输出的计算样值之间的误差达到预先设定的精度后，网络给出该样本的最后实际输出值。nullnull 这是根据观测数据判别样本(如化合物)所属类型(如有无活性)的一种统计方法. 它的因变量是定性数据(如某种药物的抑虫率为+ +或-等), 自变量是定量变量. 判别分析可解决两方面的问题: 一是根据一个样本的多种性质(自变量)判定它属于哪一类(有活性还是无活性, 激动剂还是拮抗剂等); 二是根据样本的多种性质把一个未知属性的样本合理分类. 因此, 判别分析兼有判别和分类两种性质,重点在判别.1. 判别分析null 如何应用个数较少的变量来代替众多的变量来描述体系的性质，同时又能基本上包含原来的信息，这就是主成分分析所要解决的问题。主成分分析的中心问题是将数据降维，以排除众多化学信息共存中相互重叠的信息，即在一系列变量中找出m个彼此无关（即正交）的新的综合变量，也就是原始变量的线性组合（即主成分），合理地从m个主成分中挑选少数几个主成分作为代表，就可以获取由原始变量提供的绝大部分信息。主成分分析有两个特点： 随着次序的增加，主成分的重要性降低。第一主成分包含的信息比第二主成分多，等等。 不同主成分之间相互正交，即它们所包含的信息之间没有相关性.2. 主成分分析