使用 SPSS 文本挖掘工具构建社交媒体数据集市

社交媒体的出现改变了大品牌的经营方式。在社交渠道大行其道之前,顾客的行为大多基于独立的信息收集和偏好。而如今,顾客越来越多地处于在线状态,他们在线进行交流、询问建议、比较价格和质量并影响着他人。这些嵌入在原始社交媒介数据中的个人层面行为代表了顾客的偏好、购买历史、重大的人生事件、心情、个性以及通过文本挖掘获得的其他属性,这些属性可以存储在社交媒体数据集市中。

Kimberly Chulis, CEO 兼联合创始人, Core Analytics, LLC

Kimberly Chulis 的照片Kimberly Chulis 是 Core Analytics, LLC 公司的原始创建人之一。她有超过 18 年的专业高级分析经验,在许多公司的项目和行业中都展示了自己的专业分析经验,这些公司包括 WellPoint、HCSC、UHG、Great West、Accenture、Ogilvy、Microsoft、Sprint/Nextel、Commonwealth Edison、TXU、Eloyalty、SPSS、Allstate、Cendant,以及金融、电信、医疗、能源、非盈利、零售和教育领域的其他公司。Kimberly 曾在攻读博士期间在 Purdue University 的 Health and Human Services Consumer Behavior 项目上做过研究,并从芝加哥的 University of Illinois 获得了经济学硕士学位,主要研究的是医学经济和计量经济学。



2013 年 1 月 11 日

简介

我们今天熟知的这些社交网络的先驱是在二十世纪六十年代晚期出现的,当时公告牌是首批交互消息共享平台之一。更晚些时候(二十世纪九十年代,当 craigslist 和 AOL 进入人们的视线时),社交革命才有了飞速发展的基础。社交网络的腾飞是在二十一世纪,先是 Friendster、LinkedIn、MySpace、Flickr、Vimeo、YouTube,之后是 2004 年推出的 Facebook 和 2006 年诞生的 Twitter,以及最近的 Google+ 和 Pinterest。

社交媒体的广泛采用伴随着数字趋势,对品牌产生了直接影响,它们为有移动特征的环境开发了流动数字战略。社交流有效地延长了品牌和顾客间的关系。在电子商务和社交媒体出现之前,顾客一般是对产品进行研究,然后进行明确的购买,买卖方之间的关系即告结束,直至以后有购买的需要。口碑仅限于顾客的实体社交网络。现在,顾客的意见通过社交网络得到了放大,甚至有可能触及整个消费者群体。

有品牌商家们知道如今的消费者都在积极收集购买前的信息,从中查阅好评和差评,并更好地进行快速价格对比,这一切通过移动设备上的几次点击即可完成。他们还知道消费者现在对社交网络内其他人的响应更为敏感,而这催生了一种新型的影响者忠诚计划的开发,该计划旨在物质激励和奖励具有强大品牌影响力的个人。消费者正在成为品牌的保卫者,以至于调整品牌个性和品牌身份对于品牌的生存从未如此重要。

那么,有品牌的商家是如何管理数字交互信息的汇集?技术在加紧追赶社交消费者的脚步。社交网络们已经提供了特定于站点的流量和数据统计工具(比如 Facebook Insights、YouTube Insights 和社交媒体管理套件,比如 HootSuite),还提供了影响者测量门户,比如 Klout,该门户提供了用于品牌参与跟踪指标的第三方选项。而多种商业的社交侦听工具,比如 Radian6、SM2、Viralheat 和 Sysomos,提供了报告、文本分析、管理、情感分析、访客信息和参与工作流程。这些工具在范围以及可用性上都有所提高,但是这些工具的许多方面仍然处于发展的早期阶段。比如,情感分析缺乏准确性,而通过像 Twitter firehose 这样的服务以及像 Gnip 和 DataSift 这样的合作公司提供的社交数据价格依然有些昂贵,且在数据可用性方面存在限制。因此,一些人强烈要求扩充这些具有内核文本挖掘功能的商业工具,并建立一个专有社交媒体数据集市。社交媒体数据集市可存储从社交媒体交互中获得的消费者级别的信息以及所有有关的数字信息,比如位置、设备、移动行为、移动支付、平台和与评论数据相关的速度。


文本挖掘和语义方法

考虑到社交媒体会生成大量消费者数据,品牌如何能够将这些来自 Twitter、Facebook、博客和及论坛的原始社交媒体评论数据转变为可作为行动依据的业务情报数据?答案是将文本挖掘和语义技术应用于这些非结构化数据的新来源。

文本挖掘 指的是用来从不同文字来源提取信息的技术。它为何如此重要呢?据普遍估计,在所有与业务有关的信息中,有 80% 的信息是非结构化文本数据和半结构化文本数据。换言之,如果不对这 80% 的信息所代表的大量数据应用文本分析,所有嵌入的业务信息和消费者行为数据都会被浪费。术语文本挖掘 常常被称为文本分析 具有很多的实际意义,比如垃圾过滤、从电子商务网站上的意见和建议中提取信息、在博客和评论网站中进行社交收听和意见挖掘、增强客户服务和电子邮件支持、业务文档的自动化处理、法律领域的电子发现、衡量消费者的偏好、索赔分析和欺诈检测,以及网络犯罪和国家安全应用程序。

文本挖掘类似于数据挖掘,因为它也针对的识别出数据内的有趣模式。虽然手动(而且是高度劳动密集)文本挖掘出现于二十世纪八十年代。在近些年来,对于通过定义搜索引擎结果算法和筛选数据源来发现未知信息而言,文本挖掘领域十分重要。诸如机器学习、数据统计、计算语言学和数据挖掘这样的技术均在这个过程中发挥了重要作用。例如,文本的知识发现目标是使用自然语言处理 (NLP) 从文本、内容和暗示的上下文中检测底层的语义关系。这个过程旨在使用 NLP 进行复制,然后衡量相同类型的语言区别、模式识别以及阅读和处理文本时的理解。

文本挖掘领域中有各种方法。下面将介绍文本挖掘所涉及到的一系列常见步骤和后续步骤。

文本挖掘的第一个步骤是识别出想要分析的基于文本的源,并通过信息检索或选择包含这组文本文件和感兴趣内容的语法库来收集这种材料。扩展 NLP 的部署可以调用 “部分词类标注” 和文本顺序来解析语法(即语汇单元化 文本),并应用 Named Entity Recognition(即确认品牌、人的姓名、地点、常见缩略语等内容的提及)。而迭代的 Filter Stopwords 步骤则涉及禁用词的删除,从而提炼出所需的主题内容。Pattern Identified Entities 能识别电子邮件地址和电话号码,Coreference 则能识别文本内的名词短语以及相关对象,后跟 Relationship, Fact and Event Extraction。通常会生成 N-Grams,它创建一系列连续单词作为术语。最后,执行语义分析,社交媒体侦听和分类工具如今广泛使用采用这种方式来提取对某个对象或主题的态度信息。很多时候,各种映射和绘制功能还提供了可视化,以便进行进一步的准确验证。


文本挖掘工具

文本挖掘软件和应用程序有很多商业和开源选项。IBM 提供了种类繁多且强健的文本挖掘解决方案。利用了 IBM® InfoSphere® BigInsights™ 大数据功能的一种功能强大的方案提供了附加文本分析模块,能够从 InfoSphere BigInsights 集群运行文本分析提取。IBM SPSS® 方案规模和范围都很广泛。对于搜索文档并将它分配给一个主题非常有效的一个工具是 IBM SPSS Modeler,它能提供一个图形界面来执行通常的文本文档分类和分析。另一个产品 IBM SPSS Text Analytics for Surveys 则使用了 NLP,对于分析文档内开放的调查问题非常有用。IBM SPSS Modeler Premium 与 SPSS Text Analytics for Surveys 运行在同一个引擎上,但是可伸缩性更高,能处理一个有助于结构化和非结构化数据集成的综合工作台内文档(PDF、Web 页面、博客、电子邮件、Twitter 提要等)的整个语料库。面向 Facebook 的一个相关的自定义代码节点扩展了 SPSS Modeler Premium 的功能,以便能够直接从 Facebook wall 直接读取数据,并与 SPSS Modeler 内的 Twitter 提要相集成,从而获得多社交媒体渠道观点。

在开源文本挖掘工具中,RapidMiner 和 R 这两个工具最为流行。R 有更大的用户群,它是一种需要源代码的编程语言,有许多算法选择。但可伸缩性一直是 R 的一个问题,所以,对于大型数据集,如果没有变通方案,R 不是一个理想选择。RapidMiner 的用户群较小,但它不要求源代码,并且有一个强大的用户界面 (UI)。而且它是高度可伸缩的,能够处理集群和数据库内编程。IBM 提供了一个将查询内的 R 项目集成在一起的 Jaql R 模块,它允许 MapReduce 作业并行运行 R 计算。


社交媒体数据集市和大数据

NoSQL 和 SQL 选项

现在我们将简要介绍 NoSQL 和 Structured Query Language (SQL) 选项和技术堆栈的选择过程。当数据源变得难以处理时,正如社交媒体数据中经常出现的情形那样,能够有效集成 Hadoop 和其他功能扩展的开源工具的商业 NoSQL 选项(比如 IBM InfoSphere BigInsights)组合就显得十分必要。图形数据库、关键值和文档存储都是可用的,可基于主要用例做出最佳选择。对文本挖掘和分析感兴趣的公司通常会选择将 Hadoop 并与其他的开源工具相集成,比如 Apache Mahout,这是一种可提供分类、集群和协作过滤的机器学习引擎。Storm 的元组和流可以管理实时分析,操纵 Hadoop 的高延迟性。

在将文本挖掘应用于社交媒体数据时,有一些独特的挑战。社交网络站点、博客和论坛生成的数据属于通常所说的大数据 范畴。数据是未结构化或半结构化的数据,每天会围绕较大品牌生成数千兆字节的数据,而传统的数据库无法有效扩展来支持基于这些数据的实时分析。因此需要提供大数据和 NoSQL 数据库解决方案。

如果没有定期收集并充分存储社交媒体数据,这些数据是很容易遭到破坏。大多数开源社交侦听工具仅存储社交媒体评论历史记录的几天内的记录。Twitter 也是最近才宣布会保存整个数据历史记录,但仅限于由帐户持有人明确发布的评论。通过之前提及的一些更大型的社交数据提供商,比如 Gnip 和 DataSift,以及基于量和调用的应用程序编程接口(API)和其他工具,可以获得这类数据。但是,虽然可以获得这类数据(对于 Twitter),除了那些最大的品牌之外,价格对于一般人而言显得尤为昂贵。

每个社交媒体网站对这个问题的处理方式都是大相径庭的。根据数据的量和数据的特性,可以使用搜索请求和提供 JavaScript Object Notation (JSON) 格式响应,这些响应包含未解析的数据,以便立即包含在一个 MySQL 或 NoSQL 数据库中。


文本挖掘的商业用例

品牌为文本挖掘提供了不同的目标:

  • 像 Sears 这样的公司,如 示例 1 所示,可能有兴趣在新产品线启动后通过社交媒体评论和 Facebook 页面粉丝的交互来直接跟踪消费者的观点。这样一来,更容易理解围绕图片、产品和启动产品而引起的对话集群的基本反响。通过这种实时的反馈可以实现快速的消息更新和非流行内容的删除,并且 Facebook 的粉丝们成为了实时焦点群,提供了产品特性的即时反馈。
  • JACT Media 公司的任务是构建品牌和视频游戏玩家之间的关系。该公司提供了一个游戏内的临时设施,在玩家玩常玩游戏的同时向玩家展示各种具有针对性的、已安排好的内容。玩家赢得 JACT 虚拟货币,而这些 JACT BUX 可兑换奖品,包括虚拟的和可下载的商品。玩家在 Facebook 页面或 Twitter 上与 JACT 交互,并频繁在游戏论坛经常提及 JACT BUX。这种原始的评论数据可从各种来源获取,并且可以存储个人级别的评论和偏好。比如,如果玩家对某个视频游戏特别感兴趣,或是在 tweet 上提到了自己的奖品,那么基于特定游戏的游戏内目标锁定和奖品类型可能比随机的奖励更能促进忠诚度的增加。
  • 超市也能够使用社交媒体数据来识别更为有价值的购物者、对客服的印象、商店的环境、产品的偏好、包装的偏好和定价。将这类信息与 Twitter 或移动设备提供的位置数据汇总在一起,超市就能从某个角度进行定位,量身定制购物体验。而这对于库存、定价、广告、个人数字和邮寄优惠券等都有影响。

示例 1:SPSS Modeler Premium 中的社交媒体数据和文本挖掘

第一个示例是一个 SPSS Modeler Premium 用例。在此场景中,启动了一个新的产品线,该公司有兴趣跟踪社会媒体数据中的消费者反应。SPSS Modeler Premium Facebook 节点被用来跟踪 Sears Facebook 页面上的新 Kardashian 产品线,如 图 1 所示。

图 1. 零售商在 Facebook 上启动了一个新的产品线
零售商的新产品页面的屏幕截图

在跟踪和分析评论数据的第一个步骤中,涉及到要求用户指定用户名以及在 SPSS Modeler Premium Facebook 节点中用于评论的页面和线程的数量,如 图 2 所示。

图 2. 用于通过提取 Facebook wall 评论来识别启动后的评论反馈分析的 SPSS Modeler
用于通过提取 Facebook wall 评论来识别启动后的评论反馈分析的 SPSS Modeler

然后,会从 Sears Facebook 页面提取评论数据,并在 SPSS Modeler 中使用它,如 图 3 所示。

图 3. 可直接通过 SPSS Modeler Facebook 节点查看的原始评论数据
可直接通过 SPSS Modeler Facebook 节点查看的原始评论数据

(请查看 图 3 的大图。)

下一个步骤涉及到添加过滤器和执行概念提取,从而形象地描述围绕该品牌的内容类别。这个用户友好的图形 UI 可在整个过程中引导用户,并且不需要使用 API 从 Twitter 或 Facebook 中提取社交数据。其结果是获得一个容易理解的概念地图,并了解连接线的厚度所代表的概念集群的敏感性,如 图 4 所示。

图 4. 概念地图为品牌提供了概念强度类别的可视化
概念地图为品牌提供了概念强度类别的可视化

(请查看图 4 的大图。)

示例 2:在 SPSS Statistics Base 中使用了提取内容和禁止词的超市产品偏好示例

下列的社交媒体数据集市组装过程描述了一个简单的手动文本挖掘过程。在这个示例中,我们希望使用借助了 SPSS Statistics Base 的文本挖掘来获取和存储来自社交媒体数据的各种产品偏好。本例包括一个从 Twitter 和 Facebook 提取超市品牌数据的分步指南。过程架构如 图 5 所示。

图 5. BrandMeter 社交媒体数据集市架构
BrandMeter 社交媒体数据集市架构

(请查看 图 5 的大图。)

第一步是确定感兴趣的品牌。设置一个例程来通过一个 API 过程收集与品牌相关的提及。这是通过 图 6 中所示的搜索请求来完成的,结果是以 JSON 格式返回的。一个 JSON 库会解析数据,并将每个记录分成多个字段,这些字段包含了像用户 ID、数据和未处理的文本消息评论这样的信息。然后,此数据会存储在一个数据库中,并且可供文本挖掘使用。

图 6. 用来访问原始 Twitter 和 Facebook 评论数据的示例 API
用来访问原始 Twitter 和 Facebook 评论数据的示例 API

(请查看 图 6 的大图。)

这个简化的文本挖掘练习的目标是确定特定消费者产品偏好和消费模式。然后,此信息会存储在社交媒体数据集市在。对于这个特定示例,假设您想要确定蔬菜玉米的所有消费者。图 7 显示了 Character Index 函数的使用情况,该函数可识别原始评论数据中使用了单词 corn 的所有实例。

图 7. 用 SPSS Base Character Index 函数提取文本
用 SPSS Base Character Index 函数提取文本

(请查看 图 7 的大图。)

这些结果还需要进一步的过滤,并且需要通过各种迭代来应用禁止词,从而提高分类的准确性。通过应用像 popcorn、candy corn、corndogcorn syrup 这样的禁止词,并限制实例为四个字符的组合,可以让玉米产品的识别更准确一些。然后可以使用 'corn_consumer_flag'=1 在数据库中标记这些用户名,并在未来市场营销活动中,为特定于玉米的产品和食品而选中它们。(请查看 图 8。)

图 8. 使用了禁止词的原始评论分类过程
使用了禁止词的原始评论分类过程

(请查看 图 8 的大图。)

在获得详尽的列表之后,您就可以执行用户 ID 聚合,并填充表来捕获产品购买、包装方面的评论和其他存储了个人级别消费者行为的变量。在本例中,原始社交媒体数据存储在一个 NoSQL 数据库内,而所得到的产品偏好标志则存储在一个 MySQL 数据集市内,其中用户 ID 是一个主匹配键(参见 图 9)。

图 9. 用 SPSS Base Aggregate 函数将评论数据聚合到用户 ID 级别
用 SPSS Base Aggregate 函数将评论数据聚合到用户 ID 级别

(请查看 图 9 的大图。)


结束语

文本挖掘愈来愈流行,因为很多公司评估使用社交媒体作为一种市场营销和品牌交互渠道的潜在回报。许多公司都急于实现大数据存储方案,以便存储未结构化的数据,并将这些数据与传统的交易类型数据相集成。社交媒体评论和与品牌相关的交互数据提供了对消费者偏好的洞察,可以利用这些偏好信息来设计相关的产品特性,并采用与消费者需求和预期相吻合的方式进行市场营销。如果为了获得更深入的品牌体验定制而将这类个人级别的行为和偏好数据存储在社交媒体数据集市中,那么这将会将信息置于公司的手中,公司可以使用这些信息来充实消费者与品牌的关系,促使消费者参与其品牌体验的自我管理。

参考资料

学习

获得产品和技术

讨论

条评论

developerWorks: 登录

标有星(*)号的字段是必填字段。


需要一个 IBM ID?
忘记 IBM ID?


忘记密码?
更改您的密码

单击提交则表示您同意developerWorks 的条款和条件。 查看条款和条件

 


在您首次登录 developerWorks 时,会为您创建一份个人概要。您的个人概要中的信息(您的姓名、国家/地区,以及公司名称)是公开显示的,而且会随着您发布的任何内容一起显示,除非您选择隐藏您的公司名称。您可以随时更新您的 IBM 帐户。

所有提交的信息确保安全。

选择您的昵称



当您初次登录到 developerWorks 时,将会为您创建一份概要信息,您需要指定一个昵称。您的昵称将和您在 developerWorks 发布的内容显示在一起。

昵称长度在 3 至 31 个字符之间。 您的昵称在 developerWorks 社区中必须是唯一的,并且出于隐私保护的原因,不能是您的电子邮件地址。

标有星(*)号的字段是必填字段。

(昵称长度在 3 至 31 个字符之间)

单击提交则表示您同意developerWorks 的条款和条件。 查看条款和条件.

 


所有提交的信息确保安全。


static.content.url=http://www.ibm.com/developerworks/js/artrating/
SITE_ID=10
Zone=Information Management
ArticleID=854459
ArticleTitle=使用 SPSS 文本挖掘工具构建社交媒体数据集市
publish-date=01112013