delete-target-dir --num-mappers 1 --hive-import --hive-database news --hive-table news 23/06/08 11:25:52 INFO sqoop.Sqoop: Running Sqoop version: 1.4.7 23/06/08 11:25:53 WARN tool.BaseSqoopTool: Setting your password on the command-line is insecure. Consider using -P instead. 23/06/08 11:25:53 ERROR tool.BaseSqoopTool: Error parsing arguments for import: 23/06/08 11:25:53 ERROR tool.BaseSqoopTool: Unrecognized argument: –table 23/06/08 11:25:53 ERROR tool.BaseSqoopTool: Unrecognized argument: news 23/06/08 11:25:53 ERROR tool.BaseSqoopTool: Unrecognized argument: --fields-terminated-by 23/06/08 11:25:53 ERROR tool.BaseSqoopTool: Unrecognized argument: ; 23/06/08 11:25:53 ERROR tool.BaseSqoopTool: Unrecognized argument: --delete-target-dir 23/06/08 11:25:53 ERROR tool.BaseSqoopTool: Unrecognized argument: --num-mappers 23/06/08 11:25:53 ERROR tool.BaseSqoopTool: Unrecognized argument: 1 23/06/08 11:25:53 ERROR tool.BaseSqoopTool: Unrecognized argument: --hive-import 23/06/08 11:25:53 ERROR tool.BaseSqoopTool: Unrecognized argument: --hive-database 23/06/08 11:25:53 ERROR tool.BaseSqoopTool: Unrecognized argument: news 23/06/08 11:25:53 ERROR tool.BaseSqoopTool: Unrecognized argument: --hive-table 23/06/08 11:25:53 ERROR tool.BaseSqoopTool: Unrecognized argument: news

时间: 2024-02-01 22:03:26 浏览: 102
这个错误提示显示Sqoop无法解析您提供的导入参数。具体来说,Sqoop无法识别“-table”,“-fields-terminated-by”,“-delete-target-dir”,“-num-mappers”,“-hive-import”,“-hive-database”和“-hive-table”这些参数。 请检查您的命令语法是否正确,并确保使用正确的参数名称和格式。根据错误提示,您可能需要: 1. 将“-”字符改为正确的“-”字符,因为错误提示中显示的字符可能是不正确的。 2. 在每个参数名称前添加两个“-”字符,以便Sqoop可以正确识别参数。 3. 确保使用正确的参数名称和格式。例如,“-table”应该是“--table”,“-fields-terminated-by”应该是“--fields-terminated-by”。 例如,如果您要导入一个名为“news”的表格,并将字段分隔符设置为分号“;”,可以使用以下命令: ``` sqoop import --delete-target-dir --num-mappers 1 --hive-import --hive-database news --hive-table news --fields-terminated-by ';' ``` 请注意,这只是一个示例命令,具体的命令语法和参数可能因您的具体情况而有所不同。如果您不确定如何操作,请咨询有经验的管理员或参考相关文档。
相关问题

sqoop import-all-tables 参数怎么用

`sqoop import-all-tables` 命令用于将关系型数据库中的所有表导入到Hadoop中,可以使用以下参数: - `--connect`:指定JDBC连接字符串,必须提供; - `--username`:指定连接数据库所需的用户名,可选; - `--password`:指定连接数据库所需的密码,可选; - `--warehouse-dir`:指定Hadoop中存储所有表的根目录,必须提供; - `--as-parquetfile`:指定是否将数据存储为 Parquet 格式,默认为 false,可选; - `--num-mappers`:指定 Sqoop 作业使用的 mapper 数量,默认为 4,可选。 例如,以下命令将所有表从MySQL数据库导入到Hadoop的 `/user/hive/warehouse` 目录下,并将数据存储为 Parquet 格式: ``` sqoop import-all-tables \ --connect jdbc:mysql://localhost/mydatabase \ --username myuser \ --password mypassword \ --warehouse-dir /user/hive/warehouse \ --as-parquetfile \ --num-mappers 8 ``` 请根据您的实际情况调整命令中的参数。

我在hive中已经创建了一张叫ods_realtime_traffic_flow的表,表格式时parquet格式,帮我检查一下下面的sqoop语句是否有问题:~/opt/module/sqoop/bin/sqoop import \ --connect jdbc:mysql://hadoop102:3306/project \ --username root \ --password 'zw520618.' \ --table 'ods_realtime_traffic_flow' \ --columns link_ID,time_interval,travel_time \ --where "date='2017-07-31'" \ --hive-import \ --hive-overwrite \ --hive-database project \ --hive-table 'ods_realtime_traffic_flow' \ --hive-partition-key '`date`' \ --hive-partition-value "2017-07-31" \ --as-parquetfile \ --split-by link_ID \ --num-mappers 1

这个sqoop语句看起来没有明显的语法错误,但是有一些需要注意的地方: 1. 如果在hive中已经存在了名为ods_realtime_traffic_flow的表,那么使用--hive-import将会导致数据导入失败,因为表已经存在。可以使用--append或--hive-overwrite选项来避免这个问题。 2. 使用--num-mappers 1将只会使用一个mapper来导入数据,这可能会导致性能瓶颈。可以根据数据量和集群资源来调整这个值。 3. 在--where子句中使用了date='2017-07-31'来筛选数据,这个date字段是否存在需要查看ods_realtime_traffic_flow表的结构。 4. 如果没有在hive中提前创建project数据库,那么需要在命令行中使用CREATE DATABASE project来创建数据库。 5. 如果在ods_realtime_traffic_flow表的结构中已经包含了date字段,那么不需要使用--hive-partition-key和--hive-partition-value选项。否则,需要根据实际的分区键和值来调整这两个选项。 6. 使用--as-parquetfile选项将数据导入为parquet格式,但在hive中需要先创建好对应的表结构,包括字段类型、分区等信息。 综上,这个sqoop语句需要根据实际情况来调整,以确保数据能够正确地导入到hive中。

相关推荐

root@zhaosai conf]# sqoop import --connect jdbc:mysql://192.168.160.130:3306/mydb --username root -P --table news --hive-import --hive-table mydb.news --incremental append --check-column id --last-value 0 --split-by id --target-dir /hdfs://zhaosai:9000/user/hive/warehouse/news --num-mappers 1 23/06/07 17:23:56 INFO sqoop.Sqoop: Running Sqoop version: 1.4.7 Enter password: 23/06/07 17:24:04 INFO tool.BaseSqoopTool: Using Hive-specific delimiters for output. You can override 23/06/07 17:24:04 INFO tool.BaseSqoopTool: delimiters with --fields-terminated-by, etc. 23/06/07 17:24:04 INFO manager.MySQLManager: Preparing to use a MySQL streaming resultset. 23/06/07 17:24:04 INFO tool.CodeGenTool: Beginning code generation Loading class com.mysql.jdbc.Driver'. This is deprecated. The new driver class is com.mysql.cj.jdbc.Driver'. The driver is automatically registered via the SPI and manual loading of the driver class is generally unnecessary. 23/06/07 17:24:04 INFO manager.SqlManager: Executing SQL statement: SELECT t.* FROM news AS t LIMIT 1 23/06/07 17:24:04 INFO manager.SqlManager: Executing SQL statement: SELECT t.* FROM news AS t LIMIT 1 23/06/07 17:24:04 INFO orm.CompilationManager: HADOOP_MAPRED_HOME is /opt/programs/hadoop-2.7.6 注: /tmp/sqoop-root/compile/b07035b094b6ac39b87f2ef11261c934/news.java使用或覆盖了已过时的 API。 注: 有关详细信息, 请使用 -Xlint:deprecation 重新编译。 23/06/07 17:24:05 INFO orm.CompilationManager: Writing jar file: /tmp/sqoop-root/compile/b07035b094b6ac39b87f2ef11261c934/news.jar 23/06/07 17:24:05 INFO tool.ImportTool: Maximal id query for free form incremental import: SELECT MAX(id) FROM news 23/06/07 17:24:05 ERROR tool.ImportTool: Import failed: java.io.IOException: java.sql.SQLSyntaxErrorException: Unknown column 'id' in 'field list' at org.apache.sqoop.tool.ImportTool.initIncrementalConstraints(ImportTool.java:322) at org.apache.sqoop.tool.ImportTool.importTable(ImportTool.java:511) at org.apache.sqoop.tool.ImportTool.run(ImportTool.java:628) at org.apache.sqoop.Sqoop.run(Sqoop.java:147) at org.apache.hadoop.util.ToolRunner.run(ToolRunner.java:70) at org.apache.sqoop.Sqoop.runSqoop(Sqoop.java:183) at org.apache.sqoop.Sqoop.runTool(Sqoop.java:234) at org.apache.sqoop.Sqoop.runTool(Sqoop.java:243) at org.apache.sqoop.Sqoop.main(Sqoop.java:252) Caused by: java.sql.SQLSyntaxErrorException: Unknown column 'id' in 'field list' at com.mysql.cj.jdbc.exceptions.SQLError.createSQLException(SQLError.java:120) at com.mysql.cj.jdbc.exceptions.SQLError.createSQLException(SQLError.java:97) at com.mysql.cj.jdbc.exceptions.SQLExceptionsMapping.translateException(SQLExceptionsMapping.java:122) at com.mysql.cj.jdbc.StatementImpl.executeQuery(StatementImpl.java:1200) at org.apache.sqoop.tool.ImportTool.getMaxColumnId(ImportTool.java:238) at org.apache.sqoop.tool.ImportTool.initIncrementalConstraints(ImportTool.java:309)

最新推荐

recommend-type

SpringBoot请求与响应

SpringBoot请求与响应
recommend-type

百度2021年语言与智能技术竞赛多形态信息抽取赛道关系抽取部分torch版baseline.zip

1、资源项目源码均已通过严格测试验证,保证能够正常运行; 2、项目问题、技术讨论,可以给博主私信或留言,博主看到后会第一时间与您进行沟通; 3、本项目比较适合计算机领域相关的毕业设计课题、课程作业等使用,尤其对于人工智能、计算机科学与技术等相关专业,更为适合; 4、下载使用后,可先查看README.md文件(如有),本项目仅用作交流学习参考,请切勿用于商业用途。1、资源项目源码均已通过严格测试验证,保证能够正常运行; 2、项目问题、技术讨论,可以给博主私信或留言,博主看到后会第一时间与您进行沟通; 3、本项目比较适合计算机领域相关的毕业设计课题、课程作业等使用,尤其对于人工智能、计算机科学与技术等相关专业,更为适合; 4、下载使用后,可先查看README.md文件(如有),本项目仅用作交流学习参考,请切勿用于商业用途。1、资源项目源码均已通过严格测试验证,保证能够正常运行; 2、项目问题、技术讨论,可以给博主私信或留言,博主看到后会第一时间与您进行沟通; 3、本项目比较适合计算机领域相关的毕业设计课题、课程作业等使用,尤其对于人工智能、计算机科学与技术等相关专业,更为适合; 4、下载使用后,可先查看README.md文件(如有),本项目仅用作交流学习参考,请切勿用于商业用途。1、资源项目源码均已通过严格测试验证,保证能够正常运行; 2、项目问题、技术讨论,可以给博主私信或留言,博主看到后会第一时间与您进行沟通; 3、本项目比较适合计算机领域相关的毕业设计课题、课程作业等使用,尤其对于人工智能、计算机科学与技术等相关专业,更为适合; 4、下载使用后,可先查看README.md文件(如有),本项目仅用作交流学习参考,请切勿用于商业用途。1、资源项目源码均已通过严格测试验证,保证能够正常运行; 2、项目问题、技术讨论,可以给博主私信或留言,博主看到后会第一时间与您进行沟通; 3、本项目比较适合计算机领域相关的毕业设计课题、课程作业等使用,尤其对于人工智能、计算机科学与技术等相关专业,更为适合; 4、下载使用后,可先查看README.md文件(如有),本项目仅用作交流学习参考,请切勿用于商业用途。1、资源项目源码均已通过严格测试验证,保证能够正常运行; 2、项目问题、技术讨论,可以给博主私信或留言,博主看到后会第一时间与您进行沟通; 3、本项目比较适合计算机领域相关的毕业设计课题、课程作业等使用,尤其对于人工智能、计算机科学与技术等相关专业,更为适合; 4、下载使用后,可先查看README.md文件(如有),本项目仅用作交流学习参考,请切勿用于商业用途。1、资源项目源码均已通过严格测试验证,保证能够正常运行; 2、项目问题、技术讨论,可以给博主私信或留言,博主看到后会第一时间与您进行沟通; 3、本项目比较适合计算机领域相关的毕业设计课题、课程作业等使用,尤其对于人工智能、计算机科学与技术等相关专业,更为适合; 4、下载使用后,可先查看README.md文件(如有),本项目仅用作交流学习参考,请切勿用于商业用途。
recommend-type

京东配送竞赛.zip

1、资源项目源码均已通过严格测试验证,保证能够正常运行; 2、项目问题、技术讨论,可以给博主私信或留言,博主看到后会第一时间与您进行沟通; 3、本项目比较适合计算机领域相关的毕业设计课题、课程作业等使用,尤其对于人工智能、计算机科学与技术等相关专业,更为适合; 4、下载使用后,可先查看README.md文件(如有),本项目仅用作交流学习参考,请切勿用于商业用途。1、资源项目源码均已通过严格测试验证,保证能够正常运行; 2、项目问题、技术讨论,可以给博主私信或留言,博主看到后会第一时间与您进行沟通; 3、本项目比较适合计算机领域相关的毕业设计课题、课程作业等使用,尤其对于人工智能、计算机科学与技术等相关专业,更为适合; 4、下载使用后,可先查看README.md文件(如有),本项目仅用作交流学习参考,请切勿用于商业用途。1、资源项目源码均已通过严格测试验证,保证能够正常运行; 2、项目问题、技术讨论,可以给博主私信或留言,博主看到后会第一时间与您进行沟通; 3、本项目比较适合计算机领域相关的毕业设计课题、课程作业等使用,尤其对于人工智能、计算机科学与技术等相关专业,更为适合; 4、下载使用后,可先查看README.md文件(如有),本项目仅用作交流学习参考,请切勿用于商业用途。1、资源项目源码均已通过严格测试验证,保证能够正常运行; 2、项目问题、技术讨论,可以给博主私信或留言,博主看到后会第一时间与您进行沟通; 3、本项目比较适合计算机领域相关的毕业设计课题、课程作业等使用,尤其对于人工智能、计算机科学与技术等相关专业,更为适合; 4、下载使用后,可先查看README.md文件(如有),本项目仅用作交流学习参考,请切勿用于商业用途。1、资源项目源码均已通过严格测试验证,保证能够正常运行; 2、项目问题、技术讨论,可以给博主私信或留言,博主看到后会第一时间与您进行沟通; 3、本项目比较适合计算机领域相关的毕业设计课题、课程作业等使用,尤其对于人工智能、计算机科学与技术等相关专业,更为适合; 4、下载使用后,可先查看README.md文件(如有),本项目仅用作交流学习参考,请切勿用于商业用途。1、资源项目源码均已通过严格测试验证,保证能够正常运行; 2、项目问题、技术讨论,可以给博主私信或留言,博主看到后会第一时间与您进行沟通; 3、本项目比较适合计算机领域相关的毕业设计课题、课程作业等使用,尤其对于人工智能、计算机科学与技术等相关专业,更为适合; 4、下载使用后,可先查看README.md文件(如有),本项目仅用作交流学习参考,请切勿用于商业用途。1、资源项目源码均已通过严格测试验证,保证能够正常运行; 2、项目问题、技术讨论,可以给博主私信或留言,博主看到后会第一时间与您进行沟通; 3、本项目比较适合计算机领域相关的毕业设计课题、课程作业等使用,尤其对于人工智能、计算机科学与技术等相关专业,更为适合; 4、下载使用后,可先查看README.md文件(如有),本项目仅用作交流学习参考,请切勿用于商业用途。
recommend-type

全国大学生电子设计竞赛.zip

1、资源项目源码均已通过严格测试验证,保证能够正常运行; 2、项目问题、技术讨论,可以给博主私信或留言,博主看到后会第一时间与您进行沟通; 3、本项目比较适合计算机领域相关的毕业设计课题、课程作业等使用,尤其对于人工智能、计算机科学与技术等相关专业,更为适合; 4、下载使用后,可先查看README.md文件(如有),本项目仅用作交流学习参考,请切勿用于商业用途。1、资源项目源码均已通过严格测试验证,保证能够正常运行; 2、项目问题、技术讨论,可以给博主私信或留言,博主看到后会第一时间与您进行沟通; 3、本项目比较适合计算机领域相关的毕业设计课题、课程作业等使用,尤其对于人工智能、计算机科学与技术等相关专业,更为适合; 4、下载使用后,可先查看README.md文件(如有),本项目仅用作交流学习参考,请切勿用于商业用途。1、资源项目源码均已通过严格测试验证,保证能够正常运行; 2、项目问题、技术讨论,可以给博主私信或留言,博主看到后会第一时间与您进行沟通; 3、本项目比较适合计算机领域相关的毕业设计课题、课程作业等使用,尤其对于人工智能、计算机科学与技术等相关专业,更为适合; 4、下载使
recommend-type

032530-铁磁学(上册).pdf

032530-铁磁学(上册).pdf
recommend-type

解决Eclipse配置与导入Java工程常见问题

"本文主要介绍了在Eclipse中配置和导入Java工程时可能遇到的问题及解决方法,包括工作空间切换、项目导入、运行配置、构建路径设置以及编译器配置等关键步骤。" 在使用Eclipse进行Java编程时,可能会遇到各种配置和导入工程的问题。以下是一些基本的操作步骤和解决方案: 1. **切换或创建工作空间**: - 当Eclipse出现问题时,首先可以尝试切换到新的工作空间。通过菜单栏选择`File > Switch Workspace > Other`,然后选择一个新的位置作为你的工作空间。这有助于排除当前工作空间可能存在的配置问题。 2. **导入项目**: - 如果你有现有的Java项目需要导入,可以选择`File > Import > General > Existing Projects into Workspace`,然后浏览并选择你要导入的项目目录。确保项目结构正确,尤其是`src`目录,这是存放源代码的地方。 3. **配置运行配置**: - 当你需要运行项目时,如果出现找不到库的问题,可以在Run Configurations中设置。在`Run > Run Configurations`下,找到你的主类,确保`Main class`设置正确。如果使用了`System.loadLibrary()`加载本地库,需要在`Arguments`页签的`VM Arguments`中添加`-Djava.library.path=库路径`。 4. **调整构建路径**: - 在项目上右键点击,选择`Build Path > Configure Build Path`来管理项目的依赖项。 - 在`Libraries`选项卡中,你可以添加JRE系统库,如果需要更新JRE版本,可以选择`Add Library > JRE System Library`,然后选择相应的JRE版本。 - 如果有外部的jar文件,可以在`Libraries`中选择`Add External Jars`,将jar文件添加到构建路径,并确保在`Order and Export`中将其勾选,以便在编译和运行时被正确引用。 5. **设置编译器兼容性**: - 在项目属性中,选择`Java Compiler`,可以设置编译器的兼容性级别。如果你的目标是Java 1.6,那么将`Compiler Compliance Level`设置为1.6。注意,不同的Java版本可能有不同的语法特性,因此要确保你的编译器设置与目标平台匹配。 这些步骤可以帮助解决Eclipse中常见的Java项目配置问题。当遇到错误时,记得检查每个环节,确保所有配置都符合你的项目需求。同时,保持Eclipse及其插件的更新,也可以避免很多已知的问题。
recommend-type

管理建模和仿真的文件

管理Boualem Benatallah引用此版本:布阿利姆·贝纳塔拉。管理建模和仿真。约瑟夫-傅立叶大学-格勒诺布尔第一大学,1996年。法语。NNT:电话:00345357HAL ID:电话:00345357https://theses.hal.science/tel-003453572008年12月9日提交HAL是一个多学科的开放存取档案馆,用于存放和传播科学研究论文,无论它们是否被公开。论文可以来自法国或国外的教学和研究机构,也可以来自公共或私人研究中心。L’archive ouverte pluridisciplinaire
recommend-type

【错误处理与调试】:Python操作MySQL的常见问题与解决之道

![【错误处理与调试】:Python操作MySQL的常见问题与解决之道](https://www.devopsschool.com/blog/wp-content/uploads/2020/05/image-1.png) # 1. Python与MySQL交互基础 在当今的数据驱动世界中,Python与MySQL的交互变得尤为重要。作为一款广泛使用的动态编程语言,Python具有简洁明了的语法,且易于学习,它在数据分析、科学计算以及Web开发等多个领域中都表现出色。而MySQL作为流行的开源关系数据库管理系统,广泛应用于网站后端数据存储与管理。 首先,要实现Python与MySQL的交互,
recommend-type

#include<stdio.h> void main() { char c; scanf("%c",&c); print("%d\n",c); }

你提供的代码是C语言的简单程序,用于从标准输入读取一个字符,并试图打印该字符的ASCII码值。然而,程序中存在一个小错误。在C语言中,函数`printf`用于输出,而不是`print`。下面是修正后的代码: ```c #include<stdio.h> void main() { char c; scanf("%c", &c); printf("%d\n", c); } ``` 这段代码的作用如下: 1. 包含标准输入输出库`stdio.h`,它提供了输入输出函数的声明。 2. 定义`main`函数,它是每个C程序的入口点。 3. 声明一个`char`类型的变量`
recommend-type

真空发生器:工作原理与抽吸性能分析

"真空发生器是一种利用正压气源产生负压的设备,适用于需要正负压转换的气动系统,常见应用于工业自动化多个领域,如机械、电子、包装等。真空发生器主要通过高速喷射压缩空气形成卷吸流动,从而在吸附腔内制造真空。其工作原理基于流体力学的连续性和伯努利理想能量方程,通过改变截面面积和流速来调整压力,达到产生负压的目的。根据喷管出口的马赫数,真空发生器可以分为亚声速、声速和超声速三种类型,其中超声速喷管型通常能提供最大的吸入流量和最高的吸入口压力。真空发生器的主要性能参数包括空气消耗量、吸入流量和吸入口处的压力。" 真空发生器是工业生产中不可或缺的元件,其工作原理基于喷管效应,利用压缩空气的高速喷射,在喷管出口形成负压。当压缩空气通过喷管时,由于喷管截面的收缩,气流速度增加,根据连续性方程(A1v1=A2v2),截面增大导致流速减小,而伯努利方程(P1+1/2ρv1²=P2+1/2ρv2²)表明流速增加会导致压力下降,当喷管出口流速远大于入口流速时,出口压力会低于大气压,产生真空。这种现象在Laval喷嘴(先收缩后扩张的超声速喷管)中尤为明显,因为它能够更有效地提高流速,实现更高的真空度。 真空发生器的性能主要取决于几个关键参数: 1. 空气消耗量:这是指真空发生器从压缩空气源抽取的气体量,直接影响到设备的运行成本和效率。 2. 吸入流量:指设备实际吸入的空气量,最大吸入流量是在无阻碍情况下,吸入口直接连通大气时的流量。 3. 吸入口处压力:表示吸入口的真空度,是评估真空发生器抽吸能力的重要指标。 在实际应用中,真空发生器常与吸盘结合,用于吸附和搬运各种物料,特别是对易碎、柔软、薄的非铁非金属材料或球形物体,因其抽吸量小、真空度要求不高的特点而备受青睐。深入理解真空发生器的抽吸机理和影响其性能的因素,对于优化气路设计和选择合适的真空发生器具有重要意义,可以提升生产效率,降低成本,并确保作业过程的稳定性和可靠性。