过去五年,大数据理念深入人心,“用数据说话”已经成为所有人的共识,数据成了堪比石油、黄金、钻石的战略资源。
大数据这五年
五年来,人们对大数据的认识更加具体化,数据无所谓大不大,有用最重要,数据是基础,而分析挖掘和应用才是根本。
大众对大数据的认识经历了螺旋上升,实践逐渐落地的过程。目前,国内的大数据产业政策日渐完善,技术、应用和产业都取得了非常明显的进展。具体而言,体现在四个方面。
第一,政策持续完善。在顶层设计上,国务院印发的《促进大数据发展行动纲要》对政务数据共享开放、产业发展和安全三方面作了总体部署。数据开放共享方面的《政务信息资源共享管理暂行办法》、产业方面的《大数据产业发展规划(2016-2020)》、数据安全方面的《中华人民共和国网络安全法》等政策法规都已出台。卫计、农业、检察、税务等部门还出台了各领域大数据发展的具体政策。此外,17个省市发布了大数据发展规划,十几个省市设立了大数据管理局,8个国家大数据综合试验区、11个国家工程实验室启动建设。可以说,适应大数据发展的政策环境已经初步形成。
第二,技术稳步提升。开源给国内产业界提供了一个跳板,让我们与国际大数据技术先进水平的差距不断缩小。2014年~2016年,百度、阿里和腾讯先后拿下国际知名的Sort Benchmark大赛冠军。这个竞赛全面比拼分布式系统软件架构能力,包括海量数据分布式存储、计算任务切片调度、节点通信协调同步、数据计算监控、硬件架构等方面的能力。而这一赛事2014年之前的冠军均被微软、Yahoo、亚马逊等包揽。这从一个侧面反映了我国产业界大数据处理技术水平的快速提升。与此同时,一批国产化商用大数据平台产品崛起,底层技术越来越扎实。
第三,应用逐渐落地。在金融领域,2016年商业银行全面部署大数据基础设施,五大国有银行、股份制、城商行和农商行已经逐步开始了从传统数据仓库架构向大数据平台架构的转型改造,基于大数据风控的“秒贷”业务越来越普及,不仅提升了贷款效率,还扩大普惠金融的覆盖面;在电信领域,中国电信的大数据平台已经扩展到31个省,汇聚了全国的基础数据形成了“天翼大数据”服务能力。中国联通也实现了数据整合,大数据产品体系已经推出征信、指数、营销等六大产品种类。
第四,产业快速崛起。围绕数据的产生、汇聚、处理、应用等环节的产业生态从无到有,不断壮大。中国信息通信研究院发布的《中国大数据产业调查报告(2017年)》显示,2016年中国大数据核心产业(软件、硬件及服务)的市场规模为168亿元,较2015年增长45%,预计2020年有望达到578亿元。2016年获得融资的企业数量达到400多家,2017年前三个月就有150多家企业获得融资,其中半数为中国公司,资本源源不断地投向大数据领域。
随着新一代人工智能浪潮的兴起,善于炒作者一定会迅速奔向下一个风口,估计大数据很快就要“退烧”了。不能怪大家不专一,只怪热点轮替太快,让人目不暇接。
大数据,代表了一种现象,即:数据的指数增长超过了人们管理、处理和应用数据能力的增长,产生了一个“剪刀差”,而且这个“剪刀差”无疑将长期存在。无论是对一个国家还是一个企业,谁能在缩小大数据“剪刀差”上拔得头筹,把数据用好,就能占有竞争优势。
还需迈过“三道坎”
浮在水面的只是冰山一角。在IT业,五年已太长,离七年之痒不远了,用互联网专家何宝宏的话说,要么成功,要么换壳。然而同时,五年又太短,大数据刚刚炒热,前景还很广阔,坚持下去才是真爱,前面还有很多问题(机遇)等着解决,比如以下几点:
打破数据孤岛——人人都想要别人的数据,但又都不愿意把自己的数据给别人,这是“天性”。与此同时,以前信息系统建设都从一个个“烟囱”开始,数据缺乏互通的技术基础,这是“人祸”。从国家层面到企业内部,情况大同小异。
麦肯锡2016年年底发布的一份报告显示,大数据在很多领域没有达到预期效果,很重要的原因就是数据割裂。这些年,推动数据开放共享的政策举措一直在加强,政策已经相当给力,但效果与预期还有差距,碰到了瓶颈。政策再往前推,仿佛遇到一堵高高的墙,这时就需要技术“拉一把”。的确,数据共享技术供应有些滞后了。
未来,如果同态加密(homomorphic encryption)、差分隐私(differential privacy)、多方安全计算(secure multi-party computation)、零知识证明(zero-knowledge proof)等技术能取得突破,数据共享就能再前进一大步。区块链的共享账本、集体维护、难以篡改等特性,也有望能推数据共享。
数据资产管理——数据分析工作,往往有80%的时间和精力都耗费在搜集、清洗和加工数据上。数据质量不过关,会让数据分析效果大打折扣,甚至让分析结果谬以千里。很多单位大数据应用效果不佳,问题多半出在数据管理上。大家都同意把数据当做资产,甚至认为有朝一日会计入资产负债表。但相较于对桌椅板凳等实物资产的管理,对数据资产的管理,还处于非常原始的阶段。我们往往对自己的数据资产有哪些、有多少都不清楚,更别说数据质量、数据安全、资产评估、资产交换交易等精细管理、价值挖掘和持续运营了。
事实上,数据资产管理不像大数据分析挖掘那么光鲜亮丽,就像城市的“下水道工程”,短期只有投入没有产出。但长期来说又不得不做,是战略层面的事情,否则返工的成本巨大。以后,每个企业都将成为数据驱动的企业,打基础的事情要尽早做。
深化领域应用——虽然大数据的应用取得了一定进展,在互联网、金融、电信等领域产生了实实在在的效益,医疗、工业领域也正在加速落地。但总体上只能说是走出了小半步。
目前的大数据应用可大致分为两类。一类是“平行替代”,如金融和电信行业用Hadoop来重构原来的昂贵的数据仓库。另一类则是“补课”,如政务、医疗、工业等领域,正在做的工作是在原有业务系统之外,新建本来早该建设的数据平台。这些大数据应用,显然还不够高大上,是物理反应,是量变而非质变,但的确也是发展的必经阶段。
可以预见,随着这些“替代”型或“补课”型应用的深入,未来业务与数据将加深融合,越来越多数据驱动的新模式、新业态值得所有人期待。也只有这样,数据强国战略才能落到实处。