登陆注册
3371700000005

第5章 数据的收集管理和使用(2)

很多大公司正在数据管理这条路上学习,而当前我们面临着很多以往不曾遇见的问题。比如,我们是应该在各个部门里运作,还是集中管理数据?我们是应该在数据安全的前提下更开放,让更多人找到数据的价值,还是应该更封闭,让泄露数据的可能性更小?另外,个人隐私怎么去保护?我们怎么才能成为一家负责任的数据管理公司?这些都是代表性的难题。

现在,大型的互联网公司通常都同时拥有成百上千种在开发的项目,它们都在直接或间接地改变着数据,而在这种情况下,又如何保障数据安全?事实上,数据的源头已经“脏”了,而下游使用数据的人还不知道,同时,源头的数据使用者也没有责任告诉下游这些数据已经“脏”了。

所以,如果你数据使用得不好,这对你的发展影响也不会很大。但是如果你数据使用得好,而且将它作为公司的核心竞争力,那么你的麻烦就大了。因为你的数据源本来就来自各个地方,而每一个来源都没有责任要告诉你,今天从它那儿来的数据是正常的和可靠的。特别是大数据出现后,数据的精准与否更加重要。因为大数据在很多情况下,是利用外部数据来帮助内部数据进行调整的,如果你的内部数据难以保证“干净”的话,那么外部数据同样无法保证“干净”。

数据管理,是大数据行业的“脏活”、“苦活”和“累活”,是最悲催和最难解决的事情。如果没有这些背景做铺垫,人们对很多公司在做的所谓的大数据的运营就持有怀疑态度了。

注意数据分类的维度

在观察与分析数据中,我们要从中抽象出来,更好地将数据进行归类和整理,从而更加清晰地识别出数据的价值。

今天,我们多数人把自己关注的焦点放在结果上而忽略了过程,而事实上这些过程其实也蕴含了数据管理的过程和数据分类的过程。有些关键数据必须做好保护,若这几个数据变了,或者被污染了,前面的价值也就无法保证了。

有人肯定会问,管理数据是一个过程,能不能分解?能不能区分哪些元素是比较重要的?哪些是有代替品的?哪些是无可取代的?哪些是不可或缺的核心?其实,这些问题就包含数据战略。

所以,我们不可以含糊地应对,要从中抽象出来,更好地将数据进行归类和整理,从而更加清晰地给出数据的价值。

权威的数据公司从数据分类的角度将数据分为以下4种:

1.按照是否可以再生的标准来看,可以分为不可再生数据和可再生数据

不可再生数据通常就是最原始的数据,比如用户在访问网站时,浏览记录会追踪用户的行为,如果当时没有被记录下来,就没有其他数据来还原用户的行为了。这个有点像拿着相机拍闪电,抓拍很重要,一旦错过,闪电就不可能再重复刚才那一瞬间的光影了。因此,对于用户日志类等不可再生数据而言,必须要有很完善的保护措施和严格的权限设置。现在,很多系统都有备份多份数据的功能,理想情况应该是,因为磁盘损坏而造成数据丢失的案例应该越来越少。但是,因为系统升级失败和误操作等造成的数据丢失在各家公司都屡见不鲜,见怪不怪了。

可再生数据就是通过其他数据可以生成的数据,原则上,指标类数据的衍生数据都是可再生的——只要原始的不可再生数据还在,就可以通过重新运算来获得。不过千万不能因为“可再生”这个词语的存在,就对可再生数据不重视。有些可再生数据是通过很长时间的积累不断加工而成的,是长时间从海量数据中计算出来的,比如对某个用户在数个月内的连续购买行为产生的规律,如果未做保护,虽然仍然可再生,但是再生的时间却会给企业带来问题。因为即便对于有顶尖计算能力的公司来讲,都可能是数日,甚至是数周、数月,而这个时间过程可能就会对公司的某一项核心业务造成毁灭性的打击。

对不可再生的数据而言,已有的数据要严格保护,想要但是还没有的数据就要及早收集。举个例子,很多电子商务网站是不关注客户在商品详情页面有没有做滚屏操作的。如果这一类型的数据没有被记录下来,企业就无从知道详情页的有效性。当商品页面进行改版,需要对此类数据进行参考时,就没有办法来获得相应的数据支持,最后能做的就只能是等待在页面上进行布点开发,等待数据收集到之后再进行决策,这就造成了决策的延误。

对于可再生数据而言,要及早做好业务的预判和数据处理的规划,这样一来,数据在需要的时候就能够快速地获得应用,人们把这一数据称为数据中间层。

2.按照数据所处的存储层次来看,可以分为基础层、中间层和应用层

从数据的存储角度来说,数据有很多层次。基础层通常与原始数据基本一致,也就是仅仅存储最基本的数据,不做汇总,以尽量避免失真,从而用作其他数据研究的基础;中间层是基于基础层加工的数据,通常也被认为是数据仓库层,这些数据会根据不同的业务需求,按照不同的主体来进行存放;应用层则是针对具体数据问题的应用,比如作为解决具体问题的数据分析和数据挖掘的应用层的数据。

在存储层这个层面上,最大的问题就是数据的冗余和管理的混乱。尤其是对于一些拥有海量数据的大公司而言,数据的冗余问题尤为严重,由此造成了大量的浪费。

在大公司中,进行数据分析、开发、挖掘的人可能有数十甚至是数百人,这些人可能归属于不同的业务团队,为了满足不同的业务各自分析数据应用。这样一来,不同的人可能都从头开始建立起了一套包含基础层、中间层和应用层的数据,而彼此之间又没有合适的交流方式,也就造成了工作的浪费。那是不是应该把所有的数据进行更好的归纳或者管理呢?任何管理方法,无论是集中式管理,还是分散式管理,都各有利弊,而且人和业务多了之后,企业也很难进行集中式管理。专家给出的建议是,基础层必须统一,因为这是最基本的数据,而且基本数据是原始数据。除了备份的需求外没有必要在各个场合保留多份数据。只要保证这个数据有良好的元数据管理方式,就能极大地降低成本。

而对于中间层和应用层而言,则要视具体情况而定:如果公司的业务相对单一且成本压力比较大,则建议集中式管理;如果公司的业务量非常大,则可以由多个数据团队来进行分散式管理和应用,以保证基础层单位有最高的灵活性。

同类推荐
  • 舒立观察:中国十年之真问题

    舒立观察:中国十年之真问题

    中国的法律体系如何逐步健全;金融改革如何能走得更远;重大民生问题如何妥善解决;行政性调控如何淡出,市场化调控如何跟进;在全球化时代,中国想要什么样的世界,世界想要什么样的中国……复活风云激荡的过往事件,重现载沉载浮的财经人物,总结中国十余年来在政治经济诸多领域所取得的重大进步,激发人们继续前行的勇气……新闻本身是易碎的,但新闻记者对于永恒性的追求是始终不渝的。
  • 动物界经济学

    动物界经济学

    从动物身上可以找到自己的本源,从经济学上找到指导我们的哲理。将五彩缤纷的动物世界与富含生活智慧的经济学原理相结合,并对人类的社会现状做系统分析,会让我们对自己正在面临的或即将面临的难题找到有效的解决方式。
  • 左手《国富论》,右手《道德情操论》

    左手《国富论》,右手《道德情操论》

    《左手<国富论>右手<道德情操论>》讲述了:《国富论》,在这部写作历时六年、修改三年的巨著中,亚当·斯密批判地吸收了当时的重要经济学理论,对整个国民经济的运动过程做了系统的描述,被誉为“第一部系统的伟大的经济学著作”,它的出版标志着古典自由主义经济学的正式诞生。《道德情操论》,它不仅从伦理道德的角度,而且从哲学、法学、心理学和经济学的角度,对有关资本主义社会生产关系的各个领域作了探讨。可以毫不夸张地说,倘若对亚当·斯密的《道德情操论》不了解,则不可能理解市场经济社会的形成和西方近代文明的进程。
  • 农产品经纪人读本

    农产品经纪人读本

    《金阳光新农村丛书》围绕农民朋友十分关心的具体话题,分“新农民技术能手“新农业产业拓展“新农村和谐社会三个系列,分批出版。“新农民技术能手系列除了传授实用的农业技术,还介绍了如何闯市场、如何经营;“新农业产业拓展系列介绍了现代农业的新趋势、新模式;“新农村和谐社会系列包括农村政策宣讲、常见病防治、乡村文化室建立,还对农民进城务工的一些知识作了介绍。全书新颖实用,简明易懂。
  • 金融理论与实践若干问题研究

    金融理论与实践若干问题研究

    沐浴着中国经济金融改革开放的春风,宁夏金融学会于1981年8月诞生,至今走过了30个春秋。30年来,宁夏金融学会在中国金融学会、自治区社科联的指导下,在主管单位中国人民银行银川中心支行的领导和支持下,始终秉承“服务地方经济金融改革发展”的宗旨,励精图治,艰苦奋斗,团结和依靠广大会员,潜心致力于科研工作和学术活动,积极培养青年研究人才,充分发挥在金融研究与学术交流中的组织和推动作用。"
热门推荐
  • 青少年健全人格教育故事全集

    青少年健全人格教育故事全集

    人格是人生的基石,是一个人立身处世的根本。人格是心灵的明灯,它不断地在灵魂与意识之上,给我们以指引和激励。正因为有了对于人格的信仰,我们才会在风霜雪雨的日子里,始终不偏离前进的航向;正因为有了人格的孕育,我们的心灵之洲才能绿水长流,我们的青春之树才会长盛不衰;正因为有了人格的积淀,我们的生命才会变得如山一样不屈,如海一般博大……
  • 原始大厨王

    原始大厨王

    一代厨王李奇,阴差阳错的穿越到了原始社会,原本以为彻底悲剧了,却没有想到,在这个时代,厨师竟然是一份伟大、光荣、正经的职业。为了生存,为了吃。李奇带着一帮疯狂的原始人,移山倒海,降妖伏魔,屠尽苍生,千秋万载,一统……“喂,大可,醒醒,咱们中午吃什么?”“黄焖鸡米饭!”
  • 企业物流管理实务

    企业物流管理实务

    本书按照高职教育培养目标的要求,以“教程” 方式重点突出企业物流管理的操作技能知识,以实际工作“案例”和“问题” 介绍企业采购与供应物流管理、企业生产物流管理、企业销售物流管理等基本技能知识,为学习企业物流管理知识和掌握企业物流管理技能提供有力支撑。
  • 让孩子学会做人处事的50件事

    让孩子学会做人处事的50件事

    本书从孩子做人处事的细节入手,选取生活中具有典型意义的50件事,论述了做人处事的重要性以及方式方法。
  • 大萨遮尼干子受记经

    大萨遮尼干子受记经

    本书为公版书,为不受著作权法限制的作家、艺术家及其它人士发布的作品,供广大读者阅读交流。汇聚授权电子版权。
  • 薄情杀手妃:修罗小王后

    薄情杀手妃:修罗小王后

    【女强,宠文】穿越算什么,牛人到哪里都是牛人。草包?!才华尽展亮瞎你们狗眼。废物?!九窍全开我本修练天才。丑女?!面具之下风华美冠天下。炼百灵,聚万兽……惹我?作为大陆上唯一的炼妖师,我不介意帮你回炉!忠我敬我依从我,我自护他重他荣华富贵皆与之分享,欺我骗我背叛我,我皆诛之绝不留情!逆天算什么,人不容我必诛之,天不容我,我便破了这天,重造一片乾坤朗朗!***作为黑白两道通吃,商政两界通杀的黑道女王,无论是在穿越前还是穿越后,莫离都只有一个理想:做世间最强的女子,睡天下最强的男人。从废物到天才。从泥泞到云端。她,注定要站到至高处,让众生仰望。
  • 侠探颠先生

    侠探颠先生

    一枝黄金花,牵扯出一件悬宕四十年的无解奇案。陈颠接受委托,经过抽丝剥茧的调查之后,无解奇案终现曙光,真相呼之欲出的同时,事件背后所隐藏的秘密,竟完全超乎了他的想象……
  • 暴力法神

    暴力法神

    以魔能为力量,分为武士和术士,武士擅长近战,术士擅长远攻,这几乎是千古以来的定律,但是因为一个人——黎阳,这一切的定律都不再是定律。武士?术士?近战?远攻?这些区分对我都没有用。我是术士,但是我也可以让对手尝试一下我的拳头!法神不暴力,好意思自称法神吗?身为一个古武者,就算是穿越到了异世界,也要沿袭古武者近战的风格!身为一个古武者,就算是被判定为远攻的术士,也要沿袭古武者暴力的风格!身为一个古武者,别人只拥有一种属性,我却是要拥有所有的属性……以身体为阵,收集六属性本源成为阵基,看黎阳怎么一边成为一个顶尖阵术士一边修炼成一代法神。
  • 绝塞传烽录

    绝塞传烽录

    本书讲述杨炎、齐世杰、冷冰儿、龙灵珠等人的经历和感情故事。亦是“天山系列”的最后一部。
  • 天才铸器师

    天才铸器师

    被扫帚打中意外进入冥界,发现这里最贵、最让鬼遥不可及的一本秘籍,居然就是爷爷让死记硬背的传家宝……