2021
08-25
08-25
解决scala.collection.mutable.Map写入的问题
在scala中可变Map写入使用valno2ID=scala.collection.mutable.Map[Int,String]()no2ID+=(1->"something")而在以下代码中,Map不能添加元素valno2ID=scala.collection.mutable.Map[Int,String]()sc.textFile(conf).foreach(line=>{valsplits=line.split(“,”)valno=splits(0).trim.toIntvalID=splits(1)no2ID+=(no->ID)})其中conf文件为数字和对应的人名把RDD使用collect转化成Array后,可以向Map添加元素v...
继续阅读 >
本文将分两部分来介绍如何在IntelliJIDEA中运行Java/Scala/Spark程序:基本概念介绍在IntelliJIDEA中创建和运行java/scala/spark程序基本概念介绍IntelliJIDEA本文使用版本为:ideaIC-2020.1IDEA全称IntelliJIDEA,是java编程语言开发的集成环境。IntelliJ在业界被公认为最好的java开发工具,它的旗舰版本还支持HTML,CSS,PHP,MySQL,Python等,免费版只支持Java,Scala等少数语言。如果只开发Java和Scala,去官网下载社...
今天在intellij调试spark的时候感觉每次有新的一段代码,都要重新跑一遍,如果用spark-shell,感觉也不是特别方便,如果能像python那样,使用jupyternotebook进行编程就很方便了,同时也适合代码展示,网上查了一下,试了一下,碰到了很多坑,有些是旧的版本,还有些是版本不同导致错误,这里就记录下来安装的过程。1.运行环境硬件:Mac事先装好:Jupyternotebook,spark2.1.0,scala2.11.8(这个版本很重要,关系到后面的安装...