论文摘要资料文件与下载

基于机会约束的机器学习方法及其应用

博士研究生:黄高

指导教师:吴澄院士

所属院系:自动化系

论文摘要

随着信息化的迅猛发展，各个行业都面临着海量的数据。虽然数据中通常蕴含着巨大的价值，但如果缺少有效的分析与管理技术，再多的数据也只能成为 “鸡肋”。因此，以机器学习为代表的数据分析与挖掘方法已经成为当前大数据背景下的研究热点。建模与优化是机器学习的核心，任何优秀的学习算法都离不开巧妙的建模思路与高效的优化方法。本文基于机会约束规划在建模方面的直观性、可解释性以及在优化求解方面的高效性，分别研究了机会约束在监督学习算法、半监督学习算法以及无监督学习算法中的应用，并在实际问题上展示了本文提出的算法在计算效率、预测精度等方面的优势。

在监督学习方面，首先针对数据中包含随机噪声的回归问题，利用机会约束构建鲁棒约束条件，提出一种新的鲁棒支持向量回归算法。该方法不但适用于输入和输出数据同时存在不确定性的情况，也同时适用于线性拟合与非线性拟合问题。其次，针对监督式降维问题，提出一种基于机会约束的降维目标函数，用于改善已有降维方法在处理类别分布不规则的多类问题上的不足

在半监督学习方面，首先利用机会约束规划对半监督学习中常用的聚类假设进行重新建模，进而提出一种新的直推式学习算法，该模型预测精度与训练效率均明显优于现有的主流直推式学习算法。其次，本文提出一种基于多聚类假设的半监督分类算法，该方法利用机会约束对数据集中的样本簇进行建模，能够很好地应用于不均衡数据以及同一类别包含多个聚类的数据。

在无监督学习方面，基于机会约束模型，推导出一种新的辨别式聚类指标，该指标具有诸多突出的优点，比如具有固定的取值区间、与样本规模无关以及对特征尺度缩放不敏感等。基于该聚类指标，提出了相应的高效聚类算法。此外，详细讨论了该算法与其他辨别式聚类算法的区别与联系，从理论上分析了该算法在解决特征尺度缩放问题上的优越性。

除了在公共数据集上对提出的算法进行验证之外，本文还将算法应用于风力发电机组故障诊断与状态监控中，并且取得了较好的效果。

总而言之，本文系统性地研究了机会约束在各类机器学习方法中的应用，提出了新的建模思路与方法，对于机器学习理论研究与实际应用都将起到一定的促进作用。