sách gpt4 ai đã đi

S3FileSystem FileSystem không được Hadoop Jar triển khai

In lại 作者:可可西里 更新时间:2023-11-01 14:53:38 32 4
mua khóa gpt4 Nike

我已经在我的 maven pom 中添加了这些构建配置,因为我希望将 Apache Solr 依赖项与 Jar 捆绑在一起。否则我得到了 SolarServerException: ClassNotFound,现在我没有得到那个异常,而是下面显示的一个新异常(在 Pom 片段之后)




maven-assembly-plugin







jar-with-dependencies




make-assembly
package

single






这会创建两个 Jar 文件,一个带有依赖项,一个简单的 jar。Jar with Deps,抛出这个错误,

Exception in thread "main" java.lang.UnsupportedOperationException: Not implemented by the S3FileSystem FileSystem implementation
at org.apache.hadoop.fs.FileSystem.getScheme(FileSystem.java:216)
at org.apache.hadoop.fs.FileSystem.loadFileSystems(FileSystem.java:2564)
at org.apache.hadoop.fs.FileSystem.getFileSystemClass(FileSystem.java:2574)
at org.apache.hadoop.fs.FileSystem.createFileSystem(FileSystem.java:2591)
at org.apache.hadoop.fs.FileSystem.access$200(FileSystem.java:91)
at org.apache.hadoop.fs.FileSystem$Cache.getInternal(FileSystem.java:2630)
at org.apache.hadoop.fs.FileSystem$Cache.get(FileSystem.java:2612)
at org.apache.hadoop.fs.FileSystem.get(FileSystem.java:370)
at org.apache.hadoop.fs.FileSystem.get(FileSystem.java:169)
at org.apache.hadoop.fs.FileSystem.get(FileSystem.java:354)
at org.apache.hadoop.fs.Path.getFileSystem(Path.java:296)
at org.apache.hadoop.mapreduce.lib.input.FileInputFormat.addInputPath(FileInputFormat.java:518)
at com.myproj.core.NewWordCount.main(NewWordCount.java:59)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
at java.lang.reflect.Method.invoke(Method.java:606)
at org.apache.hadoop.util.RunJar.run(RunJar.java:221)
at org.apache.hadoop.util.RunJar.main(RunJar.java:136)

请帮我看看哪里做错了,现在hadoop直接找s3FileSystem实现

使用此命令运行它。

hadoop jar com.myproj-0.0.1-SNAPSHOT-jar-with-dependencies.jar com.myproj.core.NewWordCount tempdata/file01 output10/

附言与简单的 Jar 一起工作完全正常(没有依赖项)

1 Câu trả lời

您可能需要删除 hadoop-core 依赖项,因为您还有 hadoop-hdfs(即使不是直接的)。

关于java - 未由 S3FileSystem FileSystem 实现 Hadoop Jar 实现,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/27522775/

32 4 0
Bài viết được đề xuất: json - 使用 Apache Drill 查询压缩的 gz 文件
Bài viết được đề xuất: css - Zurb Foundation 中的重叠 div
Bài viết được đề xuất: hadoop - Flume 不将日志写入 Hdfs
Bài viết được đề xuất: hadoop - Oozie Hive Action 挂起,心跳永远
可可西里
Hồ sơ cá nhân

Tôi là một lập trình viên xuất sắc, rất giỏi!

Nhận phiếu giảm giá Didi Taxi miễn phí
Mã giảm giá Didi Taxi
Giấy chứng nhận ICP Bắc Kinh số 000000
Hợp tác quảng cáo: 1813099741@qq.com 6ren.com