0
点赞
收藏
分享

微信扫一扫

我的理解2 hadoop不会替换传统数据库

扒皮狼 2022-11-07 阅读 44


主要功能:分析广告,用户打分,分析用户行为,统计日志,数据挖掘




facebook就用Hive来进行日志分析,2009年时facebook就有非编程人员的30%的人使用HiveQL进行数据分析;淘宝搜索中的自定义筛选也使用的Hive;利用Pig还可以做高级的数据处理,包括Twitter、LinkedIn 上用于发现您可能认识的人,可以实现类似Amazon.com的协同过滤的推荐效果。淘宝的商品推荐也是!




Facebook使用的数据仓库都是在Oracle系统上实现的。在我们遇到可扩展性和性能方面的问题之后,开始调查是否有开源技术能够应用到我们的环境中。


分析广告,用户打分,分析用户行为



Hadoop是数据仓库的补充,不是数据仓库的替代品。HDFS是文件系统,而不是数据库管理系统。


它分析的是


能够对数据集进行管理是数据管理系统很重要的特性之一,这一点HDFS是不具备的。



  数据库管理系统中,我们通过查询索引可以实现对数据的随机访问,它往往处理的是结构化的数据,而在Hadoop中不会处理这样的数据类型。



对于Hive/Hadoop的使用并不是意味着将会完全放弃原来传统的数据库(Oracle/MySQL),而且把Hadoop/Hive看做是数据库仓库的和应用操作层的交集








图: Facebook的数据仓库架构


  • ​​

    我的理解2 hadoop不会替换传统数据库_facebook

    ​​
  • 大小: 45.9 KB
  • ​​查看图片附件​​
举报

相关推荐

0 条评论