设为首页 - 加入收藏 铜仁站长网 (http://www.0856zz.com)- 国内知名站长资讯网站,提供最新最全的站长资讯,创业经验,网站建设等!
热搜: 成本 故障 公司 设计
当前位置: 首页 > 运营中心 > 网站设计 > 教程 > 正文

数据科学难在实践,有哪些弯路可以不走?

发布时间:2019-03-27 07:58 所属栏目:[教程] 来源:大数据文摘
导读:大数据文摘出品 编译:李雷、栾红叶 数据科学这一名词流行了这么长时间,对于很多企业来说仍然是熟悉而又陌生的词汇。 对于积极向布局数据科学应用的企业来说,如何避免走弯路是始终追求的目标。 Blue Yonder,一个成立于2008年的大数据分析平台,用他8年

数据科学

大数据文摘出品

编译:李雷、栾红叶

数据科学这一名词流行了这么长时间,对于很多企业来说仍然是熟悉而又陌生的词汇。

对于积极向布局数据科学应用的企业来说,如何避免走弯路是始终追求的目标。

Blue Yonder,一个成立于2008年的大数据分析平台,用他8年的数据科学经验告诉你,什么是真正的数据科学、有哪些弯路可以不走。

正如Blue Yonder创始人在采访中说到:“在这八年里,我们经历了不少痛苦的教训,尤其是在数据科学应用方面。”

以下是采访原文,请欣赏!

数据科学

我相信许多人都知道什么是数据科学,但我想分享一下我个人对它的理解:数据科学的目的是构建自动化的数据驱动运营决策支持系统。

根据这么严格的定义(你也许会有异议),数据科学的唯一目便成了决策的支持和自动化。那么“运营决策”是什么?

它是指企业需要频繁定期进行的大量决策,这些决策对业务KPI(关键绩效指标)有直接影响,其结果也需要在短时间内进行评估。

企业可能需要作出以下决策,例如:各种产品明天的最佳定价是多少或发送给供应商X的下一个订单中各产品的最佳定价是多少。

由于人们经常在不经意间受到影响,因此在大多数情况下,自动决策胜于人类的运营决策,并且自动决策可以显着提高业务流程的效率。

人类决策偏见列表:

https://en.wikipedia.org/wiki/List_of_cognitive_biases#Decision-making.2C_belief.2C_and_behavioral_biases

所有这一切实际上意味着,数据科学对于运营决策的意义就像工业机器人对于制造业那样。正如机器人可以自动执行重复的生产任务一样,数据科学也可以自动执行重复的运营决策。

DevOps与数据科学

DevOps工作流程旨在克服传统IT组织中由于开发团队和运营团队相互独立而导致的普遍冲突问题。开发团队希望开发新功能并希望新功能尽早上线,而运营团队负责系统的稳定性,因为所有变更都会带来风险。他们需要尽可能地阻止新功能上线。

在这场冲突中,两个团队都忽略了以稳定可靠的新功能为客户创造价值这一共同目标。

开发人员和运营团队之间的冲突只是组织结构不合理导致的其中一种情形,对于按功能划分的其他组织机构也存在相同的问题。

在许多公司里,数据科学也被困在类似的“功能团队孤岛”中。更详细的解释,我建议阅读这篇《什么是DevOps》

相关链接:https://theagileadmin.com/what-is-devops/

数据科学-麻烦制造者

有个虚构的段子,但却透着真实的无奈。两位管理人员在一次会议上相遇,其中一位经理问道,“你们公司是不是已经开始使用数据科学决策分析了?”另一位回答说:“我们的数据科学家团队已经成立一年了,但什么时候可以开始分析还遥遥无期呢。”

为了更好地理解为什么许多数据科学工作的进展缓慢,我们需要看一下用数据科学进行自动化业务决策的典型工作流程。

下面的工作流程示例是以零售行业为例,同样也适用于其他行业。

(1) 从各种来源提取各种必要的数据:

  • 内部数据源,如ERP,CRM和POS系统,或来自在线商店的数据。
  • 外部数据,如天气或公众假期数据

(2) 提取,转换和加载数据:

  • 关联数据源
  • 聚合并转换数据,
  • 用“一张大表”关联所有数据

(3) 机器学习和决策制定:

  • 使用历史数据来训练机器学习模型

(4) 对于决策,使用当前的最新数据

  • 由此产生的决策被送回ERP系统或其他数据仓库

这些步骤基本上涉及业务的方方面面,并且需要深入集成到业务流程中,以创建有效的决策系统。

然而这也是迄今为止数据科学决策分析工作最大的麻烦。为了整合数据科学,就需要改变核心业务流程,而改变核心业务流程却是一项艰巨的任务。

数据科学本质上是贪婪的

没有数据科学家会说“目前的数据库规模足够明年用的了。”

人们通常觉得数据科学家都是贪婪的,因为他们似乎对可用资源有着不切实际的想法。但实际上,数据科学本身才是贪婪的。

总的来说,以下因素会使数据科学项目的结果更准确:

  • 更多属性(“列”)
  • 更多历史数据(“行”)
  • 更独立的数据源(例如,天气,金融市场,社交媒体......)
  • 更复杂的算法(例如,深度学习)

综上,这不是数据科学家的问题!原则上,他们有权提出这些要求。幸运的是,我们有方法来解决资源短缺问题,我将在稍后进行论证。

另一个问题是低估了决策的绝对数量。比如一家拥有100个店铺和5,000种产品的小型超市连锁店的每日补货量预测,补货算法需要14天的日预测数据才能进行分析。那实际意味着每天需要计算,处理和存储7百万个预测数据。

由于建立一个有效的机器学习模型需要许多不同的数据源,部门之间可能会引入新的共通性和纠结。整个公司必须在公共标识符(common identifiers)和数据类型(data types)上达成一致。

以前,断开链接的子部分需要与它们的数据流保持同步。比如,一个自动的日常补货系统可能要依赖营销部门的促销数据和商店的库存数据。所有必要的数据需要在一天中的固定时间获取,这样才方便系统设计决策并及时发送给供应商。

数据科学家 VS 公司的其他人

现在回到DevOps上来,这一运动旨在克服开发人员和运营团队之间潜在的偏差。

如果你试图在一个单独的地方与数据科学家团队一起构建自动化决策系统,那么就会不可避免地出现以上这种问题。

由于数据科学与其他部分的不可分离和对数据的贪婪,其团队很难成功地将一个系统与其他具有不同绩效体制的团队进行合作。

【免责声明】本站内容转载自互联网,其相关言论仅代表作者个人观点绝非权威,不代表本站立场。如您发现内容存在版权问题,请提交相关链接至邮箱:bqsm@foxmail.com,我们将及时予以处理。

网友评论
推荐文章