加入收藏 | 设为首页 | 会员中心 | 我要投稿 51站长网 (https://www.51zhanzhang.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
站内搜索:
当前位置: 首页 > 大数据 > 正文

[bigdata-022] hive和impala的对hbase的精细order by操作

发布时间:2020-12-31 05:05:18 所属栏目:大数据 来源:网络整理
导读:1. 要用hive给hbase的表创建一个外部表。不能用impala,因为它在这块有缺陷。 2. 在hive创建一个本地表,注意,一定不要创建在hbase上。 3. 在hive里,执行order by命令,对外部表进行排序,然后将排序结果写入到2创建的hive本地表。这时候,因为order by是

1. 要用hive给hbase的表创建一个外部表。不能用impala,因为它在这块有缺陷。

2. 在hive创建一个本地表,注意,一定不要创建在hbase上。

3. 在hive里,执行order by命令,对外部表进行排序,然后将排序结果写入到2创建的hive本地表。这时候,因为order by是在一个reducer里进行的,所以结果一定是有序的。但如果写入到在hive里创建的hbase表,就是无序的。这一点要尤其注意。

4. 用impala读取结果表,因为这样比较快。注意:要先做一个invalidate metadata操作。

5. 尽量不要用impala做order by,因为它对数据要求高,不容错,hive能做排序的数据,impala会抛错。

(编辑:ASP站长)

【免责声明】本站内容转载自互联网,其相关言论仅代表作者个人观点绝非权威,不代表本站立场。如您发现内容存在版权问题,请提交相关链接至邮箱:bqsm@foxmail.com,我们将及时予以处理。

    相关内容
    未处理完善
      无相关信息
    未处理完善