spark 노트(1)-Spark Context 와 자바 Spark Context 가 서로 전환 합 니 다.

질문 
       spark 2.0 에서 공식 추천 Spark 의 모든 기능 의 입구 점 은SparkSession류 로 자바 개발 자 에 게 는 SparkSession 에서 자바 Spark Context 를 얻 기 가 쉽 지 않다.
 
  2.0 이전 자바 스파크 Context 작성 방법:
SparkConf sparkConf = new SparkConf().setAppName("spark").setMaster("local[*]");
JavaSparkContext sc = new JavaSparkContext(sparkConf);

   2.0 버 전 이후 추천 쓰 는 방법:
SparkSession spark = SparkSession
      .builder()
      .appName("Java Spark SQL basic example")
      .config("spark.some.config.option", "some-value")
      .getOrCreate();
  •   해결 방법
  •   
    SparkSession spark = SparkSession
          .builder()
          .appName("Java Spark SQL basic example")
          .config("spark.some.config.option", "some-value")
          .getOrCreate();
    
    // sparkContext   JavaSparkContext 
    JavaSparkContext sc = JavaSparkContext.fromSparkContext(spark.sparkContext());
    
    // JavaSparkContext   SparkContext 
    SparkContext sparkContext = JavaSparkContext.toSparkContext(sc);

     

    좋은 웹페이지 즐겨찾기