大数据分析：六大诀窍解决大数据主要问题

每次在为一家企业搭建大数据平台的起步阶段，他们总是向我展示各种他们采用的各种前沿技术，还有他们视若珍宝的数据储备。但是毫不避讳地讲，我根本不想在这个阶段讨论这些方面的细节。因为炫酷的技术或海量的数据储备并不是大数据项目成功最关键因素。

一通展示过后，我会想我的客户发问，这个项目所关心的核心问题究竟是什么？贵方是否有相应的解决方案和能力？我通常得到的都是肯定的答复，但我心里明白，实际情况远非如此。就算各方面的技术专家、业界精英都参与到这个项目中，也没人可以找到一套通用的分工合作准则来确保该项目的顺利进行。

大数据的真正威力在于，一支全能团队能以打破常规的方式高效运转，开发、利用大数据，发现其中价值。而后对产品进行优化，再通过深入的思考与探究，对现有核心业务加以拓展、创新。

对大数据的认知相在开发中是至关重要的。假设我们将大数据的作用范围限定在一项业务或一家企业现有的涉及领域，仅对其加以技术上的利用，以求解决一些当下所面临的或传统的问题，这固然是又不小的实际意义。但是如果将大数据地应用在深度和广度上都加以提高的话，我们最终收到的效益恐怕会飙升一个数量级。如此程度的质的跃升当然不是唾手可得之事。这要求相关各方的通力合作，其中包括产品用户（分析人员、下游产品的开发人员）、软件工程师、数据管理专家、DevOps（开发、运营、QA的综合角色）和的商务方面专家。

数据湖泊将使这样一支全能团队如鱼得水、如虎添翼。它可以为用户提供一个更宏观和更高维的角度审视和分析一项业务甚至一个行业。用户可以对每个细枝末节进行时间轴上的追溯，将情景重现，加以深入分析。一旦大数据团队确立目标，手握适当的分析工具，任何数据开发及应用问题的解决过程都应势如破竹。团队成员可以运用各自专场攻克壁垒，保证项目进展顺畅。此外，数据湖泊应该成为团队活动、交流的平台和中间媒介。

上述理想的状态有一种非常极端的反面。在这种极端的情况下，团队成员各自为阵，只顾单枪匹马埋头蛮干，从不分享交流；项目的各种的日程安排纷乱繁杂且冲突频频，还有许多不必要的大小会议；还会有人在办公时间过度的休息消遣；当然这也少不了最受诟病的各种官僚化的政策。大数据和Hadoop显然没有什么魔力消除这些工作中的减分项，但它们内在的无限潜能给人带来一种对于未知的好奇与兴奋。正是这样一种魅力可以激励一个团队不断地了解未知、创造价值。这才是我从成功案例中提炼到的制胜法宝。

在帮助企业做项目木的过程中，我总是强调两点。其一，是要有一个全能的团队，而且要抱团协作；其二，就是一定要搭建一座强大的数据湖泊。以下六点诀窍可以帮助企业解决我所见到过的大部分常见的主要问题。

1.要有目标做领航

一个明确的整体目标绝不是一个可有可无或无人问津的东西。目标的设立切忌过于宏伟，以致无法达成。项目初期要对产品蓝图进行规划，并着力于完成一些较易实现又有长远意义的小产品，一般这样的产品都是数据湖泊的组分或基础。这个阶段的团队一定要小而精，随着项目开发的推进，团队的规模和多元化程度都会自然而然的得到提升。

2.搭建一座企业级的数据湖泊

企业级的数据湖泊是企业长久经营各项业务的必要条件。而在Hadoop平台上简单的数据的堆砌，并不能打通企业各部门之间的脉络，或将他们有机的粘合起来。在一个企业级的数据湖泊中，用户可以根据不同需求提取元数据，用来组织各式数据，也可以进行数据变换并记录各级数据间的关系。数据湖泊的所有者应对其各种权限加以严格的管理，也应在其备份、存档等方面的管理上做足功课。

3.树立信心

一座企业级的数据湖泊应当有较严密的安全防护措施，这样的话就一般就不会允许企业的各个部门直接向其中注入数据。如若没有这方面的限制，这样的数据湖泊就很难保持健康稳定，也就无法将不同源的数据进行充分的洗牌、重组。如果企业肯在数据湖泊上下大力气，力保其可靠性、全面性、精简化，便可以大大提升企业在数据方面的信心。这是后续业务能成功开展的关键。

4.精于变更管理

一个管理团队必须要有做变更管理的心理准备，而且要精于变更管理。作为团队主管，必须要为自己的团队树立目标并与每个成员对此进行沟通，也要为团队提供必要的技术培训，等等。这些都要求管理者有领导才能，这其中涵盖的各项具体能力在不同的行业中会不尽相同。但大部分的失败案例显示，变更管理能力的欠佳，往往都是成功路上的阻碍。

5.掌握相关技能

许多大公司都拥有不少天赋异禀的人才，但他们往往没有掌握最新的技术和某些技能，也没有相应的实战经验。正是这些经验会使我们明白如何才能高效地利用最适当的手段解决不同的数据问题。理论上的培训固然是必不可少的，但真正使人成长的还是实践应用。而一个经验丰富的导师通常都会让培训和实践都事半功倍。一个全能团队中的成员往往都是从其他项目抽借过来，如果他们个个都要兼顾原本工作的话，那么我们的项目是很难做出成绩的。这些牛人总是被其他的领导所觊觎，所以老辣的管理者千方百计的让这些人才死心塌地为己所用。

6.重视开发、分析工具的利用

市面上不乏那些可以直接与大数据平台对接的分析挖掘工具，当然我们也可以选择使用诸如Presto之类基于SQL的工具读取数据，然后再加以利用。除此之外我们还有纯大数据工具，例如Zoomdata和Datameer。如果我们给成型的数据湖泊配以适当的工具的话，实乃如虎添翼。反之，如果我们只是把Hadoop当做一个文件系统，而不去尝试着从创新的角度融合、重组、剖析数据的话，数据湖泊的价值就会大大缩水。

若能做到以上几点，我们就可以很大程度上将数据、运营体系和具体的业务有机的结合起来，避免一个大数据项目的无疾而终。将以上建议牢记于心，并在大数据开发、分析的过程中把它们一一落到实处，一个团队定能在所从事领域中洞悉一切、行动敏锐、引领风潮。

作者：RON BODKIN