苏美红
- 作品数：4 被引量：13H指数：2
- 供职机构：西北大学更多>>
- 发文基金：国家自然科学基金更多>>
- 相关领域：理学自动化与计算机技术更多>>
- 机器学习中损失函数问题研究
- 科学技术的飞速发展为采集数据带来便捷,各行业均产生海量、高维数据.然而,数据中也包含了大量的冗余信息.因此如何处理这些数据,并剔除冗余,进一步从中提取有用信息成为了统计机器学习最基本也是最重要的问题.近年来,正则化方法作...
- 苏美红
- 关键词：损失函数正则化
- 基于LAD-Elastic Net的模型选择被引量：2
- 2015年
- 高维、海量数据分析是机器学习以及统计学研究热点,而数据之间的高相关性以及噪声的重尾分布是经典机器学习算法失效的主要原因.基于此,提出了LAD-Elastic Net模型,并进一步研究了其模型选择一致性的问题.该模型所选用的损失函数为绝对值损失,相比于平方损失函数,其受噪声影响比较小,具有稳健性.所选用的罚函数为l1罚和l2罚的组合,从而可以很好地解决变量之间相关性问题.首先简要回顾了模型选择方向的研究进展;其次,给出了所要研究的LAD-Elastic Net模型;最后通过近似逼近的方法,将绝对值损失用平方函数来近似逼近,进一步从理论上证明了其模型选择一致性.结果表明,不可表示条件起到了关键的作用,在其成立的前提下,LADElastic Net所选出的模型是一致的.
- 苏美红张海张凌洁
- 关键词：稀疏性一致性稳健性
- 基于不同损失函数的模型选择和正则化学习方法被引量：9
- 2014年
- 研究了不同损失函数的模型选择问题.讨论了在机器学习领域中具有重要意义的损失函数需满足的一般性条件.在此条件下,以覆盖数作为假设空间的度量,给出不同损失函数对应的机器学习正则化模型的样本误差的上界估计,进一步得到了高效的模型选择方法.
- 苏美红张海
- 关键词：泛化
- LS,LAD组合损失的高维统计性质分析被引量：1
- 2013年
- 主要针对损失函数为最小二乘LS(Least Squares)和最小绝对偏差LAD(Least Absolute Deviation)的凸组合形式,研究了观测数n和预测数p均趋于无穷大(lim n→∞p/n=κ,κ>0)时,高维稳健统计性质和高维罚稳健统计性质,得到了稳健估计和罚稳健估计的显示表达.结果显示这种凸组合损失函数的模型集成了LS和LAD损失的优点,同时消弱了它们的不足,具有优良的高维统计性质.
- 张凌洁苏美红张海
- 关键词：高维
