Sqoop入门常用命令

使用sqoop列出mysql中数据库database

sqoop list-databases --connect jdbc:mysql://192.168.249.130:3306 --username root --password Mzp_2022!

如果出现下面这个报错,说明mysql的jdbc没有配置好

这个包放到这个位置

这实际是sqoop连接不上MySQL了

JDBC = Java Database Connectivity,翻译过来是:Java 数据库连接技术

✅ 大白话解释:JDBC 是一套Java 语言写的「通用接口 / 工具包」,作用是:让 Java 程序,能连接上各种数据库(MySQL/Oracle 等),并且对数据库执行增删改查 SQL 语句

正常是这样的

使用sqoop列出mysql中指定数据库duoduo_db中的所有表

/database的名字

-- 使用sqoop列出mysql中指定数据库duoduo_db中的所有表 sqoop list-tables --connect jdbc:mysql://192.168.249.130:3306/duoduo_db --username root --password Mzp_2022! sqoop list-tables --connect jdbc:mysql://192.168.249.130:3306/database的名字 --username root --password Mzp_2022!

从mysql数据库duoduo_db中导出表base_category1到HDFS平台/bi2513/category1

sqoop import --connect jdbc:mysql://192.168.249.130:3306/duoduo_db --username root --password Mzp_2022! --table base_category1 -m 1 --target-dir /bi2513/category1 --delete-target-dir --driver com.mysql.jdbc.Driver

sqoop import——把 MySQL 数据库里的表数据,导入到 HDFS 中

--username root --password Mzp_2022! ——用账号root、密码Mzp_2022!访问duoduo_db数据库
--table base_category1 ——访问duoduo_db数据库,将该库下的base_category1表的全部数据
-m 1 ——用1 个 Map 任务
--target-dir /bi2513/category1 ——导入到 HDFS 的/bi2513/category1目录下

--delete-target-dir——

执行这条 Sqoop 导入命令之前,自动检测 HDFS 上的目标目录/bi2513/category1 是否存在:

✅ 如果存在→ 自动删除这个目录(包括目录下所有文件),然后再重新创建该目录,执行数据导入;

✅ 如果不存在→ 什么都不做,直接创建目录,执行数据导入。
--driver com.mysql.jdbc.Driver——指定使用 MySQL 的 JDBC 驱动类完成连接

从MySQL取数据中插入特定要求的 行 到hdfs中

结尾加query

sqoop import \ --connect jdbc:mysql://192.168.249.130:3306/duoduo_db \ --username root \ --password Mzp_2022! \ --target-dir /user/category3 \ --delete-target-dir \ --num-mappers 1 \ --fields-terminated-by "\t" \ --query 'SELECT * FROM base_category3 WHERE id<=100 and $CONDITIONS;'
sqoop import \ --connect jdbc:mysql://192.168.249.130:3306/duoduo_db \ --username root \ --password Mzp_2022! \ --target-dir /user/category3 \ --delete-target-dir \ --num-mappers 1 \ --fields-terminated-by "\t" \ --query "SELECT * FROM base_category3 WHERE NAME LIKE '%机%' and \$CONDITIONS;"

提示:query的结尾必须加'$CONDITIONS', must contain '$CONDITIONS' in WHERE clause.
如果query后使用的是双引号,则$CONDITIONS前必须加转义符,防止shell识别为自己的变量。

但是你一定要注意--query不可与 --table同用。--query是调用符合条件的部分数据。--table是整个表导入进去。

加where 列=条件

sqoop import \ --connect jdbc:mysql://192.168.249.130:3306/duoduo_db \ --username root \ --password Mzp_2022! \ --target-dir /user/category3 \ --delete-target-dir \ --num-mappers 1 \ --fields-terminated-by "\t" \ --query "SELECT * FROM base_category3 WHERE NAME LIKE '%机%' and \$CONDITIONS;" 或: sqoop import \ --connect jdbc:mysql://192.168.249.130:3306/duoduo_db \ --username root \ --password Mzp_2022! \ --target-dir /user/category3 \ --delete-target-dir \ --num-mappers 1 \ --fields-terminated-by "\t" \ --table base_category3 \ --where "id=10"

迁移特定的列

方法1

sqoop import \ --connect jdbc:mysql://192.168.249.130:3306/duoduo_db \ --username root \ --password Mzp_2022! \ --target-dir /user/category3 \ --delete-target-dir \ --num-mappers 1 \ --fields-terminated-by "\t" \ --columns id,name \ --table base_category3

-- 方法2

sqoop import \ --connect jdbc:mysql://192.168.249.130:3306/duoduo_db \ --username root \ --password Mzp_2022! \ --target-dir /user/category3 \ --delete-target-dir \ --num-mappers 1 \ --fields-terminated-by "\t" \ --query 'SELECT id,name FROM base_category3 WHERE id<=100 and $CONDITIONS;'

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/1144006.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

DEIM vs 传统ETL:数据处理效率提升300%的秘诀

快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容&#xff1a; 构建一个性能对比测试平台&#xff0c;比较DEIM框架&#xff08;如SparkAirflow&#xff09;与传统ETL工具&#xff08;如Informatica&#xff09;在以下场景的表现&#xff1a;1.…

Ubuntu小白必看:5分钟搞定微信安装与基础使用

快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容&#xff1a; 创建一个Ubuntu新手向导工具&#xff0c;引导用户一步步安装和使用微信。功能包括&#xff1a;自动检测系统版本并推荐适合的微信版本&#xff1b;提供详细的图文安装指南&#xf…

比手动快10倍:自动化修复Docker启动问题

快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容&#xff1a; 设计一个自动化Docker修复工具&#xff0c;能够一键检测和修复常见的Docker启动问题。工具应自动执行以下流程&#xff1a;1)收集系统信息和Docker日志&#xff1b;2)分析可能的问…

宝塔面板捕获不到Python日志的原因及解决办法

宝塔面板捕获不到日志的原因主要在于 Python 的输出缓冲机制&#xff08;Output Buffering&#xff09; 以及 宝塔项目管理器的执行方式。 以下是详细的解释&#xff1a; 1. Python 的标准输出缓冲 在默认情况下&#xff0c;Python 的 sys.stdout&#xff08;标准输出&#xff…

Vim脚本语言Vimscript详解:到底是什么,能做什么?

Vim脚本语言&#xff0c;也称为Vimscript或VimL&#xff0c;是Vim编辑器的内置编程语言。它专门设计用于配置、定制和扩展Vim的功能&#xff0c;从简单的快捷键设置到复杂的插件开发都离不开它。理解Vim脚本是深度掌握Vim编辑器的关键一步。 Vim脚本语言是什么 Vimscript是Vim编…

AutoGLM-Phone-9B应用案例:智能工厂系统

AutoGLM-Phone-9B应用案例&#xff1a;智能工厂系统 随着工业4.0和智能制造的快速发展&#xff0c;传统工厂正逐步向智能化、自动化方向演进。在这一转型过程中&#xff0c;边缘智能与多模态交互能力成为提升生产效率、降低运维成本的关键技术支撑。AutoGLM-Phone-9B作为一款专…

AutoGLM-Phone-9B部署案例:企业级移动AI方案

AutoGLM-Phone-9B部署案例&#xff1a;企业级移动AI方案 随着移动智能设备在企业场景中的广泛应用&#xff0c;对本地化、低延迟、高安全性的AI推理能力需求日益增长。传统云端大模型虽具备强大性能&#xff0c;但在隐私保护、网络依赖和响应速度方面存在明显短板。AutoGLM-Ph…

TERATERM在工业自动化设备维护中的5个实战案例

快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容&#xff1a; 开发一个工业设备维护专用的TERATERM增强工具&#xff0c;功能包括&#xff1a;1.预置常见工业设备(如三菱PLC、发那科CNC)的通信协议模板 2.自动记录操作日志和会话记录 3.提供设…

极速开发:用FASTJSON2快速构建API原型

快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容&#xff1a; 开发一个Spring Boot API原型项目&#xff0c;使用FASTJSON2实现&#xff1a;1. 用户注册/登录接口 2. 产品列表查询接口 3. 订单创建接口。要求&#xff1a;自动生成DTO类、Contr…

Canvas字体阴影设置技巧:模糊度与偏移量如何调?

在Canvas中绘制文本时&#xff0c;添加字体阴影是提升视觉层次感和专业度的有效技巧。正确的阴影设置能让文字从背景中凸显&#xff0c;营造出立体或发光效果&#xff0c;避免画面过于扁平。然而&#xff0c;不当的参数组合反而会导致文字模糊、难以辨识&#xff0c;影响整体设…

背包问题在物流配送中的实际应用案例

快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容&#xff1a; 开发一个物流配送优化系统&#xff0c;基于背包问题算法自动计算货车的最佳装载方案。输入包括&#xff1a;货车最大载重量(如5吨)、货物列表(包含每件货物的重量、价值和配送优先…

中文文本情感分析部署:StructBERT轻量CPU版

中文文本情感分析部署&#xff1a;StructBERT轻量CPU版 1. 背景与应用场景 在当前自然语言处理&#xff08;NLP&#xff09;的实际落地中&#xff0c;中文文本情感分析已成为企业洞察用户反馈、监控舆情动态、优化客户服务的核心技术之一。无论是电商平台的商品评论、社交媒体…

传统排错 vs AI修复:Redis只读问题效率对比

快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容&#xff1a; 创建一个Redis故障修复效率对比工具。功能&#xff1a;1. 模拟产生READONLY错误环境 2. 记录人工排查过程(包含典型错误路径) 3. AI自动诊断修复流程 4. 生成详细时间消耗对比报表…

零基础学会Robot Framework:从安装到第一个测试

快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容&#xff1a; 请创建一个最简化的Robot Framework入门教程项目&#xff0c;包含&#xff1a;1. 详细的Python环境配置说明 2. Robot Framework安装指南 3. 第一个Hello World测试用例 4. 基本的…

AI助力Python 3.11下载与安装:一键搞定开发环境配置

快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容&#xff1a; 创建一个Python脚本&#xff0c;自动检测当前操作系统&#xff0c;下载对应版本的Python 3.11安装包&#xff0c;并完成安装和环境变量配置。脚本应包含下载进度显示、安装选项自定…

1小时搞定!用快马快速验证纯净系统工具创意

快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容&#xff1a; 快速生成一个系统优化工具的MVP原型&#xff0c;要求&#xff1a;1.核心功能可演示 2.极简界面 3.基础功能完整。具体需要实现&#xff1a;a)磁盘清理 b)注册表修复 c)系统信息展示…

告别手动造数据:MOCKJS效率提升全攻略

快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容&#xff1a; 生成一个性能对比demo&#xff1a;1. 传统方式手动创建1000条用户测试数据&#xff1b;2. 使用MOCKJS生成相同规模和复杂度的数据。要求&#xff1a;测量两种方式的耗时、代码量和…

5分钟原型:用nohup 2>1构建 resilient服务

快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容&#xff1a; 生成一个可立即运行的Python服务模板&#xff0c;包含&#xff1a;1) 自动日志归档 2) 心跳检测 3) 邮件报警 4) 状态持久化 5) 优雅退出处理。要求使用FastAPI框架&#xff0c;通…

权限管理ABC:为什么删除文件需要管理员权限?

快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容&#xff1a; 创建一个交互式学习教程&#xff0c;通过可视化方式展示&#xff1a;1) 文件系统权限结构 2) 权限继承机制 3) 常见权限错误示例 4) 正确解决方法。要求使用图文并茂的Markdown格式…

AutoGLM-Phone-9B实战:实时语音转写系统

AutoGLM-Phone-9B实战&#xff1a;实时语音转写系统 随着移动端AI应用的快速发展&#xff0c;轻量化、多模态的大语言模型成为实现端侧智能的关键。AutoGLM-Phone-9B 正是在这一背景下推出的面向移动设备优化的多模态大模型&#xff0c;具备语音、视觉与文本的联合处理能力。本…