什么是无监督学习?
了解无监督学习的工作原理以及如何使用它来探索数据并进行聚类
黑色背景插图上隔开的抽象绿色线条、波纹和元素
什么是无监督学习?

无监督学习也称为无监督机器学习,它使用机器学习算法来分析未标记的数据集并进行聚类。  这些算法无需人工干预,即可发现隐藏的模式或数据分组。 这种方法能够发现信息的相似性和差异性,因而是探索性数据分析、交叉销售策略、客户细分和图像识别的理想解决方案。

常见的无监督学习方法

无监督学习模型用于执行三大任务:聚类、关联和降维。 下面我们将定义每种学习方法,并重点介绍有效执行这些学习方法的常用算法和途径。

聚类

聚类是一种数据挖掘技术,该技术根据未标记数据的相似性或差异性对其进行分组。 聚类算法用于将未分类的原始数据对象处理为不同的组,通过信息的结构或模式来表示这些组。 聚类算法可以分为几种类型,具体为独占、重叠、分层和概率。

独占和重叠聚类

独占聚类是一种分组形式,它规定一个数据点只能存在于一个聚类中。 这也可以称为“硬”聚类。 K 均值聚类算法是独占聚类的一个例子。

  • K 均值聚类是独占聚类方法的一个常见示例,其中数据点被分配到 K 个组中,K 表示基于距每个组质心的距离的聚类数。 最接近给定质心的数据点将在同一类别下聚类。 K 值较大指示分组较小,粒度更大,而 K 值较小则表明分组较大,粒度较小。 K 均值聚类常用于市场细分、文档聚类、影像分割和影像压缩。

重叠聚类与独占聚类的不同之处在于,重叠聚类允许数据点属于具有不同隶属程度的多个聚类。 “软”或模糊 K 均值聚类是重叠聚类的一个示例。

分层聚类

分层聚类也称为分层聚类分析 (HCA),这是一种无监督聚类算法,可以分为两种方式;它们可以是聚合的,也可以是分裂的。 凝聚聚类被认为是一种“自下而上的方法”。 凝聚聚类的数据点起初被划入单独的分组,然后再根据相似性反复合并在一起,直到实现一个聚类。 通常使用四种不同的方法来衡量相似度:

  1. Ward 连锁:该方法规定,两个聚类之间的距离由聚类合并后平方和的增加值来定义。
  2. 平均连锁:该方法由每个聚类中两点之间的平均距离来定义
  3. 完全(或最大)连锁:该方法由每个聚类中两点之间的最大距离来定义
  4. 单一(或最小)连锁:该方法由每个聚类中两点之间的最短距离来定义

欧几里得距离是用于计算这些距离的最常用指标;然而,聚类文献中也会引用曼哈顿距离等其他指标。

分裂聚类的定义方式刚好与凝聚聚类相反;分裂聚类采用“自上而下”的方法。 在这种情况下,将根据数据点之间的差异来划分单个数据聚类。 分裂聚类并不常用,但在分层聚类环境中仍然值得注意。 这些聚类过程通常使用系统树图(一种树状图)直观呈现出来,该图记录了每次迭代中数据点的合并或拆分。

概率聚类

概率模型是一种无监督技术,可帮助我们解决密度估计或“软”聚类问题。 在概率聚类中,数据点根据它们属于特定分布的可能性来进行聚类。 高斯混合模型 (GMM) 是最常用的概率聚类方法之一。

  • 高斯混合模型被归类为混合模型,这意味着它们由不确定数量的概率分布函数组成。 GMM 主要用于确定给定数据点属于哪个高斯或正态概率分布。 如果均值或方差已知,我们便可以确定给定数据点属于哪个分布。 但在 GMM 中,这些变量是未知的,因此我们假设存在一个潜在的或隐藏的变量来恰当地对数据点进行聚类。 虽然使用期望最大化 (EM) 算法时不一定需要这个变量,但该变量通常用于估计将给定数据点分配给特定数据聚类的概率。   

关联规则

关联规则是一种基于规则的方法,用于发现给定数据集中各变量之间的关系。 这些方法常用于市场购物篮分析,使企业能够更好地了解不同产品之间的关系。 了解顾客的消费习惯有助于企业制定更好的交叉销售策略,开发更出色的推荐引擎。 在亚马逊的“购买此商品的客户也购买了”或 Spotify 的“每周发现”播放列表中,可以看到这方面的例子。 虽然有几种不同的算法用于生成关联规则,例如 Apriori、Eclat 和 FP-Growth,但 Apriori 算法使用最为广泛。

Apriori 算法

Apriori 算法由于购物篮分析而得到普及,进而产生了面向音乐平台和在线零售商的不同推荐引擎。 这些算法用于在事务数据集中识别频繁出现的项集(也称为项集合),从而确定在已经消费了某种产品的情况下消费另一种产品的可能性。 例如,如果我在 Spotify 上播放 Black Sabbath 的音乐,从他们的歌曲“Orchid”开始,这个频道上的其他歌曲之一可能是 Led Zeppelin 的歌曲,例如“Over the Hills and Far Away”。 这是基于我之前的收听习惯以及其他人的收听习惯。 Apriori 算法使用哈希树来计算项集,以广度优先的方式浏览数据集。

 

降维

虽然更多的数据通常会产生更准确的结果,但这也会影响机器学习算法的性能(例如过度拟合),并且还会造成数据集可视化的难度提高。 如果在给定数据集中的特征或维度数量过多,便会用到降维这种技术。 降维可将输入的数据量减少到可管理的大小,同时尽可能地保持数据集的完整性。 在数据预处理阶段通常会使用降维技术,可以采用几种不同的降维方法,例如:

主成分分析

主成分分析 (简称 PCA) 是一种降维算法,用于减少冗余并通过特征提取来压缩数据集。 这种方法使用线性变换来创建新的数据表示,从而产生一组“主成分”。第一个主成分是使数据集方差最大化的方向。 虽然第二个主成分也找到了数据中的最大方差,但它与第一个主成分完全不相关,产生的方向与第一个成分垂直或正交。 这个过程根据维数进行重复,其中下一个主成分是与具有最大方差的先验成分正交的方向。

奇异值分解

奇异值分解(简称 SVD)是另一种降维方法,它将矩阵 A 分解为三个低秩矩阵。 SVD 由公式 A = USVT 表示,其中 U 和 V 是正交矩阵。 S 是一个对角矩阵,S 值被认为是矩阵 A 的奇异值。与 PCA 类似,这种方法通常用于降噪和压缩数据,例如影像文件。

自编码器

自编码器利用神经网络来压缩数据,然后重新创建原始数据输入的新表示形式。 查看下图,可以看到隐藏层专门充当瓶颈,以在输出层内重建之前压缩输入层。 从输入层到隐藏层的阶段称为“编码”,而从隐藏层到输出层的阶段则称为“解码”。

无监督学习的应用

机器学习技术已成为改善产品用户体验和测试系统以保证质量的常用方法。 与手动观察相比,无监督学习提供了查看数据的探索性路径,使企业能够更快地识别大量数据中的模式。 在现实世界中,无监督学习的一些最常见应用如下:

  • 新闻栏目:Google 新闻使用无监督学习,对各种在线新闻媒体关于同一故事的文章进行分类。 例如,可以将总统选举的结果归类到“美国”新闻的标签下。
  • 计算机视觉:无监督学习算法用于视觉感知任务,例如物体识别。  
  • 医学成像:无监督机器学习为医学成像设备提供基本功能,例如图像检测、分类和分割,用于放射学和病理学,可以快速准确地诊断患者病情。
  • 异常检测:无监督学习模型可以梳理大量数据,发现数据集中的非典型数据点。 这些异常现象可以提高人们对故障设备、人为错误或安全违规的认知。
  • 客户角色:通过定义客户角色,可以更轻松地了解共同特征和商业客户的购买习惯。 无监督学习使企业能够建立更完善的买家角色档案,让组织能够更恰当地调整自己的产品讯息传达方式。
  • 推荐引擎:无监督学习可使用过去的购买行为数据,帮助发现相关数据趋势,根据这些趋势可制定出更有效的交叉销售策略。 这用于在线上零售商的结账流程中向客户提供相关的附加建议。
无监督、 有监督与半监督学习的对比

人们经常会将无监督学习和有监督学习一起讨论。 与无监督学习算法不同的是,有监督学习算法使用标记数据。 有监督学习可以通过这些数据来预测未来的结果,或是根据试图解决的回归或分类问题,将数据分配到特定类别。 虽然有监督学习算法往往比无监督学习模型更准确,但有监督学习事先需要人工干预才能恰当地标记数据。 而这些标记数据集能够让有监督学习算法避免计算复杂性,因为不需要大型训练集就能产生预期结果。 常见的回归和分类技术包括线性和逻辑回归、朴素贝叶斯、KNN 算法和随机森林。

如果给定输入数据中只有一部分被标记,就会进行半监督学习。 无监督学习和半监督学习可能是更具吸引力的替代方案,因为依赖领域专业知识为有监督学习恰当标记数据可能既耗时又成本高昂。

要深入了解这些方法之间的差异,请查看“有监督与无监督学习: 有何区别?

无监督学习面临的难题

虽然无监督学习有很多好处,但在允许机器学习模型无任何人为干预的情况下执行时,可能会遇到一些难题。 其中的一些难题包括:

  • 大量训练数据导致的计算复杂性
  • 训练时间更长
  • 结果不准确的风险较高
  • 需要人工干预来验证输出变量
  • 数据聚类的基础缺乏透明度

 

相关解决方案
IBM Watson® Studio

在任何云中构建和扩展可信 AI。 实现 ModelOps 的 AI 生命周期自动化。

探索 IBM Watson® Studio
IBM Cloud Pak® for Data

随时随地将正确的数据连接到正确的人员

探索 Cloud Pak for Data
IBM Cloud 解决方案

混合。 开放。 永续。 您的数字化转型平台和合作伙伴。

探索云解决方案
资源 有监督学习与无监督学习:有何区别?

探索有监督学习和无监督学习这两种数据科学方法的基础知识。 找出您目前所适用的方法。

机器学习的三种模型

了解三类算法:有监督、无监督和强化学习。 查看它们背后的逻辑以及分别使用的一些关键算法。

采取下一步行动

处理海量数据时,无监督机器学习模型是强大的工具。对于希望加速无监督机器学习部署的数据科学家和开发人员来说,IBM Cloud Pak for Data 上的 IBM Watson Studio 提供了一个开源解决方案。 在任何云环境中扩展学习模型,并从 IBM 资源和专业知识中获益,进而充分利用您的无监督机器学习模型。

立即探索 IBM Watson® Studio