apache-spark
Текстовые файлы и операции в Scala

Вступление

Пример использования

Прочитать текстовый файл по пути:

val sc: org.apache.spark.SparkContext = ???
sc.textFile(path="/path/to/input/file") 

Чтение файлов с использованием подстановочных знаков:

sc.textFile(path="/path/to/*/*") 

Чтение файлов с указанием минимального количества разделов:

sc.textFile(path="/path/to/input/file", minPartitions=3)

Присоедините два файла, прочитанных с помощью textFile ()

Присоединяется в Spark:

• Читать textFile 1

  val txt1=sc.textFile(path="/path/to/input/file1") 
  

  Например:

    A B
    1 2
    3 4
  

• Читать textFile 2

  val txt2=sc.textFile(path="/path/to/input/file2") 
  

  Например:

    A C
    1 5
    3 6
  

• Присоедините и распечатайте результат.

  txt1.join(txt2).foreach(println)
  

  Например:

    A B C
    1 2 5
    3 4 6
  

Соединение выше основано на первом столбце.