1 概述

若所有表中只有一张小表，那可在最大的表通过Mapper的时候将小表完全放到内存中，Hive可以在map端执行连接过程，称为map-side join，这是因为Hive可以和内存的小表逐一匹配，从而省略掉常规连接所需的reduce过程。即使对于很小的数据集，这个优化也明显地要快于常规的连接操作。其不仅减少了reduce过程，而且有时还可以同时减少Map过程的执行步骤。 使用MAPJOIN可解决以下实际问题： A 有一个极小的表<1000行（a是小表） B 需要做不等值join操作（a.x<b.y或者a.x like b.y等）。普通join语法不支持不等于操作，Hive语法解析会直接抛出错误。 select /*+ MAPJOIN(a)*/ a.name, b.stu_id from student_table_small a join student_table_big b where b.age>=a.age

2 相关参数

2.1 小表自动选择Mapjoin set hive.auto.convert.join=true; 默认值：false。该参数为true时，Hive自动对左边的表统计量，若是小表就加入内存，即对小表使用Map join2.2 小表阀值 set hive.mapjoin.smalltable.filesize=25000000; 默认值：25M2.3 map join做group by操作时，可使用多大的内存来存储数据。若数据太大则不会保存在内存里 set hive.mapjoin.followby.gby.localtask.max.memory.usage;   默认值：0.552.4 本地任务可以使用内存的百分比 set hive.mapjoin.localtask.max.memory.usage;   默认值：0.90 参考地址：http://blog.csdn.net/kwu_ganymede/article/details/51365002 相关资源：hadoop Join代码（map join 和reduce join）