网站首页 美食营养 游戏数码 手工爱好 生活家居 健康养生 运动户外 职场理财 情感交际 母婴教育 时尚美容

Sgoop如何实现增量导入

时间:2024-10-21 23:42:23

1、sqoop的配置文件在sqoop.site.xml中: sqoop.metastore.server.location 本地存储路径,默认在tmp下,改为其他路径

Sgoop如何实现增量导入

2、sqoop.metastore.server.port metastore service端口号

Sgoop如何实现增量导入

3、sqoop.metastore.client.autoconnect.url sqoop自动连接的metastore地址,默认是本地的metastore地址

Sgoop如何实现增量导入

4、sqoop.metastore.client.enable.autoconnect 开启自动连接。sqoop默认连接本地metastore。注释这个配置会开启自动连接。

Sgoop如何实现增量导入

5、开启metastore service sqoop下,nohup bin/sqoop metastore 三、创建job sqoop支持两种增量导入模式, 一种是 append,即通过指定一个递增的列

Sgoop如何实现增量导入

6、比如: -颍骈城茇-incremental append --check-column num_iid --last-value 0 varchar类型的check字段也可以通过这种方式增量导入(朐袁噙岿ID为varchar类型的递增数字)

Sgoop如何实现增量导入
© 2025 小知经验
信息来自网络 所有数据仅供参考
有疑问请联系站长 site.kefu@gmail.com