人工神经网络学习资料 课件Ch6_Statistical Learning.pdf

人工神经网络学习资料 课件Ch6_Statistical Learning ，人工神经网络学习资料 课件。
欢迎下载！
6 统计学习理论 16统计学习理论简介 重点讨论的问题 学习的统计性能：通过有限样本能否学到其中的 规律？ 学习算法收敛性：学习过程是否收敛?收敛的快慢 程度? 学习的计算复杂性：学习器复杂性、样本复杂性 （学到真正的规律所需样本数）与计算复杂性? 面对的基本问题 模式识别（分类） 回归分析（函数逼近） 概率密度估计 26统计学习理论简介 学习的方式是监督学习，包含： 环境，提供一组来自固定但未知概率分布的向量 x。
教师，为每个从环境中获得的输入向量 x，根据固定但未 知的联合概率p(x,t)给出期望响应t，满足未知关系： t=f(x) 学习器，实现一组输入输出的映射： y=F(x,w) 其中y是学习器产生的实际输出，w是自由参数（如权）。
学习的目的是寻找泛化（推广）能力最好的学习器 根据有限个独立同分布的训练样本{(x1,t1),(x2,t2),...,(xQ,tQ)} 在一组函数{F(x,w)}中求一个能最优逼近期望函数f(x)的 函数y=F(x,w0)，使损失或差异最小，即泛化能力最好。
3