谈大数据的机会与挑战—为什么我们很难像《魔球》一样点石成金
我们活在大数据的世界,数据的数量与多样化的程度,每日都以前所未有的规模扑向人类。无论你是不是在相关产业工作,都不可能逃离被大数据「围攻」的现实。自哈佛大学电脑科学系毕业、Cambridge Semantics 共同创办人 Lee Feigenbaum 撰写的〈Turnning Big Data into Smart Data〉一文,告诉我们横亘企业眼前的「大数据挑战」。让我们先来看看,大数据到底有多大?
每天全球每一个人聚沙成塔,累积的新数据达到「艾位元组(exabytes)」(甚至达到「皆位元组(zettabytes)」,端赖统计的来源)。
至今一半以上(有些报告甚至指出高达 90%)的数据资料是在过去 12 个月产生的。
人们创造数据的速度每一个月都以双倍速度成长。
除了吓人以外,光有这些「大数据」,其实没有什么意义,唯有人类能够从中发掘价值,大数据才产生意义。所幸,已有很多应用实例,让大数据发出应有的光芒,也让我们看到各行各业有无穷尽的机会,等待数据科学家的探勘。
在「大数据」还没变成人人琅琅上口的流行词汇之前,小说改变而成的电影《魔球》描述美国大联盟运动家队点石成金在缺乏明星球员的状况下杀出血路的真实故事,早已让人津津乐道,而它正是数据分析的绝佳体现。
医疗与制药产业纷纷投入大笔经费,研发「客制化」的个人医学,透过分析病人的特徵与基因组成,给予个别病人量身定做的诊断与疗法,实验室与临床都需要大量且多样化的数据整合。
智能手机、运动手环甚至後来的智慧型手表,我们分分秒秒都在「量化自我」,健身的程度、摄取的营养、身心状况、行为趋向全部都被巨细靡遗的记录下来。
大型银行与隶属政府的金融部门对资料长(chief data officer,CDO)与数据科学家需求若渴,他们要能全盘考量组织职能,针对数据的蒐集、分析与应用做出策略性的思维。
无论地方政府或中央政府,都正流行「资料透明化」,如英美政府皆建立网站揭示公开资料。人们自发性要求政府公布更多资料的行动也如火如荼,例如美国的 DATA Act。
大数据在美国总统大选中扮演了很关键的角色,帮助候选人清晰的辨识出摇摆不定的选民。
Target、Walmart 等零售商巨擘已经透彻分析顾客的资料好几年,早就能够在家人与朋友察觉之前,抢先一步知道某个消费者怀孕的消息。
智能恒温器 Nest Thermostat、智能监控 Quirky、利用使用者 GPS 「群众外包」塞车情况的 Waze,都是基於数据蒐集与预测成就物联网生活的新创公司,他们都已获得 GE、Google 等大企业投入钜资甚至并购,企盼能从大数据中挖掘巨量价值。
尽管有这么多成功的案例,对很多企业来说,大数据仍像一座无法翻越的山岭,难以将数据完美的融入决策过程。通常公司在运用大数据时,会遇到下列五个挑战:
挑战 1:我们不知道答案,甚至连问题是什么都很模糊
大数据时代的其中一个关键特徵是,我们很难知道我们需要的答案,有时甚至连想要解决的问题都很模糊。有一部分原因是,大数据的价值在於模式(pattern)与相关性(relationship),但这些过去隐藏在大量资料中的模式与相关性,经常都是意外发现的。我们不能期待专家为每一行资料都特制 MapReduce(Google 提出的软体架构,用於大规模数据的并行运算),其他大数据分析框架也一样有很高的进入壁垒,阻碍简单的资料探索与分析。
拥有深度分析、数学、统计与程式技能的数据科学家,无疑是现阶段最炙手可热的人才,不过人才养成的速度远远不及市场需求。
挑战 2:非结构化的数据难以采集
就现实面来说,大数据其实就等於「非结构化」的数据,也就是从文本分析到未经梳理的文字、声音与影片导出的数据。这些文本分析景观,有着几乎堆积成山的问题,让我们难以利用非结构化的数据帮助日常的企业营运决策。这些问题包括:
不同的内容需要运用不同的工具:客户回响与产业分析各有不同的语言分析工具,如果使用一般的分析软体,可能就会牺牲精准度。
不同的时机需要运用不同的文本分析技术:自文本中萃取企业内部资讯,跟分析社群媒体情绪波动是完全不同的挑战。
文本分析的结果不可预测:挖掘大量网页、电子信箱中的信件、以及其他文件,通常能够显示过去未知的关联性。只是,即使大数据的贮存,让我们能够更便利的捕捉难以控制的数据,不过後续的分析,光有大数据的存在是没有多少帮助的。
挑战 3:大数据难以重复利用
一般而言,数据的搜集、贮存、使用,都是针对单一目的,像是投资银行搜集 10-K 文件(美国上市公司年度报表),协助买方从事权益分析,生技公司在资料库中储存临床实验的结果,向 FDA(美国食品药品监督管理局)提交报告,电商从制造商撷取库存滋料库,与他们自己的网站内容管理系统整合在一起。这些数据既然只为特定目的服务,自然很难再被利用到其他使用情境上。因此,风险管理人员无法从 10-K 文件的分析获取与自己职务相关的资讯,生技公司的资深科学家没办法自临床数据滋料库预测早期药物的成功机率,电商从业者也没办法重复利用库存资料库,辨识不同商品的战略性差距。
挑战 4:大数据只是故事的一小部分
从前几项挑战看下来,想要促成一家真正由数据驱动、且由数据决策的公司,光有大数据是远远不足的。大数据得跟传统的企业资料来源(如交易与营运资料库或 ERP 储存系统),或者云端 SaaS 应用(如 Salesforce 的 CRM 资料)、无数的影子 IT(shadow IT)数据来源(包括试算表、简报、文件、SharePoint),整合的工作极端昂贵而且旷日费时,但是如果不做,那也甭想利用大数据解决企业的问题了。
挑战 5:大数据的「准备」阶段成本极高
大数据时代的普遍心态与工具,总是鼓舞着我们蒐集愈多数据愈好。不过数据要有价值,在准备的阶段就需考量整合、散布与利用。大数据的「准备」可能代表三种情况:
发现:在大量的数据储存中辨识正确的数据记录
去芜存菁:评估与改善数据的品质、可靠度与精确度
组合(alignment):将数据概要与个人记录以常态的模式联系起来,以利整合与分析。
普遍来说,数据的准备,几乎完全是纯手工作业,因此非常冗长乏味,消耗很多时间,而且还很容易出错。
数据分析咨询请扫描二维码
CDA数据分析师在中国航信高科技产业园进行了面向测试度量的数据分析培训课程,培训人数近2 ...
2024-05-01CDA数据分析师走进深圳迈瑞生物医疗电子股份有限公司,在迈瑞总部展开了为期两天的培训,本次课程参训人员线上及线下近百人, ...
2024-05-01CDA数据分析师在合肥市对合肥阳光新能源科技有限公司开展了为期8天的企业内训。 合肥阳光新能源科技 ...
2024-05-01CDA数据分析师走进海尔大学,进行了《数据治理与数据中台建设的道与术》专题培训,培训现场爆满,近百人参加了此次培训。 ...
2024-05-01在中国银行苏州分行培训中心开始数据分析师培训,此次培训课程共10天内容,包括Excel、MySQL、概率论与数理统计、SPSS等内容, ...
2024-05-01从实际的业务需求出发,结合行业的典型应用特点,围绕实际的商业问题,探讨数据挖掘、机器学习模型在金融领域的应用,包括获客、信用评分、细分画像、交叉销售、反欺诈、违规识别、时序预测、运筹优化、流程挖掘九个方面,形成 ...
2024-05-01本次培训课程为线上+线下的模式,由于学员编程能力不一、部分学员没有编程基础,故提供统计学、python基 ...
2024-05-01华夏银行信用卡中心-机器学习培训 1、课程亮点 取材于业界一流企业和顶级咨询公司的行业实践;已经被证明是人人 ...
2024-05-01主 题:数据中台建设及数据分析应用主题分享 1. 数据中台市场洞察 2. 主流数据中台产品比较 3. 某企业数据中 ...
2024-05-01围绕“数据驱动”战略,全力打造我行 300 人数字化人才梯队,着力培养数字化管理人才、大数据专业团队 ...
2024-05-01在当今数据驱动的商业环境中,数据分析成为了企业决策的重要依据。通过对大量数据的收集、处理和分析,企业能够更好地理解市场 ...
2024-04-29在人工智能(AI)的世界里,提示词(Prompt)是一种强大的工具,它能够引导AI按照用户的需求产生特定的输出。本文将深入探讨AI ...
2024-04-29CDA立足未来职场,拓展前沿视野——对外经贸大学保险学院举办“三全育人大讲堂”分享行业最新动态。 ...
2024-04-294月2日,CDA数据分析师创始发起人兼协会理事长赵坚毅博士受邀在浙江万里学院举办了一场以“数字化能力在职场中的作用” ...
2024-04-29随机森林(Random Forests)现在机器学习中比较火的一个算法,是一种基于Bagging的集成学习方法,能够很好地处理分类和回归的问 ...
2022-12-23方差分析是数据分析中常用的一种统计分析方法,接下来让我们简单了解一下方差分析的基本思想和原理吧。 方差分析(Analysis ...
2022-12-23来源:关于数据分析与可视化 关于streamlit-aggrid 数据排序 表格样式的调整 数据 ...
2022-08-03作者:麦叔 定义 「把上面晦涩的概念汇成一句话就是:」 ❝ 回调函数就是一个被作为参 ...
2022-08-03现今,高学历人群日益增多,物以稀为贵的高学历光环淡去。无论本科生还是研究生,甚至博士生,求职竞争力都大不如前,就业压力越来越大。
2022-06-01某家企业10个人面试,有9个本科生……如何脱颖而出,除得体的举止和良好的沟通力外,证书成重要筹码,这也是很多人考证的关键所在。
2022-04-14