0
点赞
收藏
分享

微信扫一扫

Hive性能调优之严格模式(4)


        Hive提供了一个严格模式,可以​防止用户执行“高危”的查询。

        通过设置属性hive.mapred.mode值为默认是非严格模式nonstrict 。​开启严格模式需要修改hive.mapred.mode值为strict,开启严格模式可以禁止3种类型的查询。

<property>
<name>hive.mapred.mode</name>
<value>strict</value>
<description>
The mode in which the Hive operations are being performed.
In strict mode, some risky queries are not allowed to run. They include:
Cartesian Product.
No partition being picked up for a query.
Comparing bigints and strings.
Comparing bigints and doubles.
Orderby without limit.
</description>
</property>

<1>对于分区表,用户不允许扫描所有分区,除非where语句中含有分区字段过滤条件来限制范围,否则不允许执行。进行这个限制的原因是,通常分区表都拥有非常大的数据集,而且数据增加迅速。没有进行分区限制的查询可能会消耗令人不可接受的巨大资源来处理这个表。

<2>对于使用了order by语句的查询,要求必须使用limit语句。因为order by为了执行排序过程会将所有的结果数据分发到同一个Reducer中进行处理,强制要求用户增加这个LIMIT语句可以防止Reducer额外执行很长一段时间。

<3>限制笛卡尔积的查询。对关系型数据库非常了解的用户可能期望在执行JOIN查询的时候不使用ON语句而是使用where语句,这样关系数据库的执行优化器就可以高效地将WHERE语句转化成那个ON语句。不幸的是,Hive并不会执行这种优化,因此,如果表足够大,那么这个查询就会出现不可控的情况。

        本次的分享就到这里了,受益的小伙伴们记得点赞加关注哟٩(๑>◡<๑)۶


举报

相关推荐

0 条评论