数据挖掘基础知识回归分析

数据挖掘原理与数据挖掘原理与SPSS Clementine应用宝典应用宝典 元昌安元昌安 主编主编 邓松李文敬刘海涛编著邓松李文敬刘海涛编著 电子工业出版社电子工业出版社 所谓回归分析法，利用数理统计方法建立因变量与自变量之间的回归关系函数表达式。对于下表中的数据：利用回归分析方法，得到如下的函数关系式：l一元线性回归模型l模型参数估计和平均误差估计l一元线性回归模型的检验满足一元线性回归的基本条件：l所有的 的分布的均值都正好在一条直线上，称之为总体的（真实的）回归直线；l所有的分布都有同样的形状；l随机变量 是相互独立的；l给定 X 时 分布的形状是正态的，即 服从正态分布。l满足这些条件的回归模型称为一元线性回归模型。根据样本观测值，采用最小二乘法，得到了一条估计的样本回归直线 。YbaX参数估计：经过最小二乘法计算可得：求出参数a,b以后，就可以得到回归模型:yabx平均误差估计：l线性方程的显著性检验l关于回归系数b的统计推断线性方程的显著性检验的方法有：l方差分解法 l相关分析法 lF检验 lt检验 lD-W检验 l多元线性回归模型l参数估计l多元回归方差分析和显著性检验l多元回归模型的残差分析l总离差平方和的分解和多元相关系数 l回归离差平方和与偏相关系数 回归离差平方和与偏相关系数回归离差平方和与偏相关系数在这里我们主要考虑以下几种情形：l线性与非线性l共方差与异方差 l独立与非独立 l正态与非正态 l多重共线性 l非线性模型l非线性模型的线性化主要的非线性模型有：l抛物线模型l双曲线模型l幂函数模型 l指数函数模型 l对数函数模型 l逻辑曲线模型l多项式模型 l抛物线模型 l双曲线模型 l幂函数模型 l指数函数模型 l对数函数模型 l逻辑曲线模型 l多项式模型 l倒数变换 l半对数变换 l双对数变换 l多项式变换