storm-core-1.2.1.jar缺失类:提交LambdaTopology报错求助
我来帮你捋捋提交LambdaTopology时遇到的问题,结合Storm 1.2.1的特性和Maven配置的常见坑,咱们一步步排查解决:
一、先抓准核心错误信息
你给出的Running: /usr/lib/jvm/java-1.8-openjdk/jre/bin/java -client -Ddaemon.name=...只是执行命令的开头,真正的问题肯定藏在后面的错误栈里——比如类找不到、依赖缺失、集群连接失败之类的。先把完整的异常日志捞出来,这是定位问题的关键。
二、Maven POM配置的常见坑
结合你提到的是普通Maven项目,大概率是依赖或打包环节出了问题:
- 依赖范围错配:Storm的
storm-core依赖如果设成了provided,本地提交时会找不到核心类(因为这个scope是告诉Maven“集群环境已经有这个依赖了”,本地运行不会自动引入)。你可以暂时把scope改成compile,或者用Maven profile区分本地开发和集群提交:<dependency> <groupId>org.apache.storm</groupId> <artifactId>storm-core</artifactId> <version>1.2.1</version> <scope>compile</scope> <!-- 本地提交用compile,集群部署可改回provided --> </dependency> - 缺失storm-starter关联类:LambdaTopology来自storm-starter项目,里面用到的
RandomSentenceSpout等类是storm-starter专属的。要么把这些类一起复制到你的项目里,要么直接引入storm-starter依赖:<dependency> <groupId>org.apache.storm</groupId> <artifactId>storm-starter</artifactId> <version>1.2.1</version> <scope>compile</scope> </dependency> - 没打可执行胖包:Storm提交拓扑需要包含所有依赖(除了集群已有的),普通的jar包会缺失依赖类。用
maven-shade-plugin打一个包含所有依赖的胖包是标准操作:<build> <plugins> <plugin> <groupId>org.apache.maven.plugins</groupId> <artifactId>maven-shade-plugin</artifactId> <version>3.2.4</version> <executions> <execution> <phase>package</phase> <goals> <goal>shade</goal> </goals> <configuration> <transformers> <transformer implementation="org.apache.maven.plugins.shade.resource.ManifestResourceTransformer"> <!-- 替换成你自己的LambdaTopology全类名 --> <mainClass>com.your.package.LambdaTopology</mainClass> </transformer> </transformers> <!-- 排除签名文件避免冲突 --> <filters> <filter> <artifact>*:*</artifact> <excludes> <exclude>META-INF/*.SF</exclude> <exclude>META-INF/*.DSA</exclude> <exclude>META-INF/*.RSA</exclude> </excludes> </filter> </filters> </configuration> </execution> </executions> </plugin> </plugins> </build>
三、集群提交与配置检查
- 提交命令要规范:用Storm官方的
storm jar命令提交,别直接用java -jar。比如:
注意主类的全路径要和你项目里的LambdaTopology包名完全一致,别写错。storm jar target/your-fat-jar.jar com.your.package.LambdaTopology my-lambda-topology - 集群服务状态要正常:确认Nimbus、Supervisor和ZooKeeper都在运行,且
storm.yaml里的nimbus.seeds配置正确,提交客户端能访问到Nimbus节点(伪分布式集群要确保本地能连到127.0.0.1的Nimbus端口)。 - Java版本匹配:Storm 1.2.1强制要求Java 8,你的日志里是
java-1.8-openjdk没问题,但要确保本地开发环境也是Java 8,避免编译和运行版本不一致。
四、LambdaTopology代码适配
Storm 1.2.1对Java 8 Lambda支持是没问题的,但要确保你复制的代码没有遗漏:比如Lambda里用到的Collector对象有没有正确传递,相关的Tuple处理逻辑有没有完整复制,别只复制了Topology的构建代码却丢了依赖的Spout/Bolt实现。
内容的提问来源于stack exchange,提问作者LeoZhang
相关产品推荐
相关产品推荐

