使用Idea打包Scala程序并发布到Spark上

pom文件build配置:

<build>
	<plugins>
		<plugin>
			<groupId>org.scala-tools</groupId>
			<artifactId>maven-scala-plugin</artifactId>
			<version>2.15.2</version>
		<executions>
			<execution>
				<goals>
					<goal>compile</goal>
					<goal>testCompile</goal>
				</goals>
			</execution>
		</executions>
		</plugin>
		<plugin>
			<artifactId>maven-compiler-plugin</artifactId>
			<version>3.6.0</version>
			<configuration>
				<source>1.8</source>
				<target>1.8</target>
			</configuration>
		</plugin>
		<plugin>
			<groupId>org.apache.maven.plugins</groupId>
			<artifactId>maven-surefire-plugin</artifactId>
			<version>2.19</version>
			<configuration>
				<skip>true</skip>
			</configuration>
		</plugin>
	</plugins>
</build>

上传到虚拟机上的Spark运行:

//首先进入spark目录中的bin目录下
./spark-submit --class com.kb06.beijing.sparktwo.SparkTest --master local[*] /opt/myfitstspark-1.0-SNAPSHOT.jar
//还有一些其他的参数我这里就没有一一设置,有兴趣的可以用spark的帮助命令看看

版权声明:本文为Clozzz原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接和本声明。