web-dev-qa-db-ja.com

pysparkエラー：AttributeError： 'SparkSession'オブジェクトに属性 'parallelize'がありません

Jupyterノートブックでpysparkを使用しています。 Spark setup：

import findspark
findspark.init(spark_home='/home/edamame/spark/spark-2.0.0-bin-spark-2.0.0-bin-hadoop2.6-Hive', python_path='python2.7')

    import pyspark
    from pyspark.sql import *

    sc = pyspark.sql.SparkSession.builder.master("yarn-client").config("spark.executor.memory", "2g").config('spark.driver.memory', '1g').config('spark.driver.cores', '4').enableHiveSupport().getOrCreate()

    sqlContext = SQLContext(sc)

その後、私がするとき：

spark_df = sqlContext.createDataFrame(df_in)

ここで、df_inはpandasデータフレームです。その後、次のエラーが発生しました。

---------------------------------------------------------------------------
AttributeError                            Traceback (most recent call last)
<ipython-input-9-1db231ce21c9> in <module>()
----> 1 spark_df = sqlContext.createDataFrame(df_in)


/home/edamame/spark/spark-2.0.0-bin-spark-2.0.0-bin-hadoop2.6-Hive/python/pyspark/sql/context.pyc in createDataFrame(self, data, schema, samplingRatio)
    297         Py4JJavaError: ...
    298         """
--> 299         return self.sparkSession.createDataFrame(data, schema, samplingRatio)
    300 
    301     @since(1.3)

/home/edamame/spark/spark-2.0.0-bin-spark-2.0.0-bin-hadoop2.6-Hive/python/pyspark/sql/session.pyc in createDataFrame(self, data, schema, samplingRatio)
    520             rdd, schema = self._createFromRDD(data.map(prepare), schema, samplingRatio)
    521         else:
--> 522             rdd, schema = self._createFromLocal(map(prepare, data), schema)
    523         jrdd = self._jvm.SerDeUtil.toJavaArray(rdd._to_Java_object_rdd())
    524         jdf = self._jsparkSession.applySchemaToPythonRDD(jrdd.rdd(), schema.json())

/home/edamame/spark/spark-2.0.0-bin-spark-2.0.0-bin-hadoop2.6-Hive/python/pyspark/sql/session.pyc in _createFromLocal(self, data, schema)
    400         # convert python objects to sql data
    401         data = [schema.toInternal(row) for row in data]
--> 402         return self._sc.parallelize(data), schema
    403 
    404     @since(2.0)

AttributeError: 'SparkSession' object has no attribute 'parallelize'

誰が私が間違ったことを知っていますか？ありがとう！

pythonhadooppandasapache-sparkpyspark
12
Edamame

SparkSessionはSparkContextの代わりではなく、SQLContextと同等です。 SQLContextを使用したときと同じ方法で使用します。

spark.createDataFrame(...)

SparkContextにアクセスする必要がある場合は、sparkContext属性を使用します。

spark.sparkContext

したがって、下位互換性のためにSQLContextが必要な場合は、次のことができます。

SQLContext(sparkContext=spark.sparkContext, sparkSession=spark)
15
zero323