質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.50%
Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

Spark

Spark(Apache Spark)とは、膨大なデータを迅速、柔軟に分散並行処理を行うフレームワークです。分析ツールであるApache Hadoopと比較し、最大で100倍の速度でデータ処理ができるとされています。

Q&A

解決済

1回答

1558閲覧

pysparkのdataframeでjoinしてshowを実行しようとするとエラーが出る

yuki0716

総合スコア6

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

Spark

Spark(Apache Spark)とは、膨大なデータを迅速、柔軟に分散並行処理を行うフレームワークです。分析ツールであるApache Hadoopと比較し、最大で100倍の速度でデータ処理ができるとされています。

0グッド

0クリップ

投稿2020/03/19 05:59

編集2020/03/19 06:23

前提・実現したいこと

pysparkのdataframeでjoinした結果をshowメソッド実行して結果をみる。

発生している問題・エラーメッセージ

joinしたのちshowメソッドを実行したら下記エラーメッセージが出る。

Traceback (most recent call last): File "test.py", line 17, in <module> cdf.show() File "/Users/xxxx/Library/Python/3.7/lib/python/site-packages/pyspark/sql/dataframe.py", line 380, in show print(self._jdf.showString(n, 20, vertical)) File "/Users/xxxx/Library/Python/3.7/lib/python/site-packages/py4j/java_gateway.py", line 1257, in __call__ answer, self.gateway_client, self.target_id, self.name) File "/Users/xxxx/Library/Python/3.7/lib/python/site-packages/pyspark/sql/utils.py", line 63, in deco return f(*a, **kw) File "/Users/xxxx/Library/Python/3.7/lib/python/site-packages/py4j/protocol.py", line 328, in get_return_value format(target_id, ".", name), value) py4j.protocol.Py4JJavaError: An error occurred while calling o48.showString. : org.apache.spark.SparkException: Exception thrown in awaitResult: (中略) Caused by: java.lang.IllegalArgumentException: Unsupported class file major version 57 (略)

該当のソースコード

python

1from pyspark.sql import SparkSession 2 3spark = SparkSession \ 4 .builder \ 5 .appName("Python Spark SQL basic example") \ 6 .config("spark.some.config.option", "some-value") \ 7 .getOrCreate() 8 9adf = spark.read.option('header','true').option('inferSchema', 'true').load('./a.csv',format='csv') 10bdf = spark.read.option('header','true').option('inferSchema', 'true').load('./b.csv',format='csv') 11 12adf.show() 13bdf.show() 14 15cdf = adf.join(bdf, adf.id == bdf.id, 'inner') 16cdf.show()

csv

1id,name 21,apple 32,banana 43,cherry 54,drian

csv

1id,price 21,270 32,210 43,250 54,220

a.showの結果

+---+------+ | id| name| +---+------+ | 1| apple| | 2|banana| | 3|cherry| | 4| drian| +---+------+

b.showの結果

+---+-----+ | id|price| +---+-----+ | 1| 270| | 2| 210| | 3| 250| | 4| 220| +---+-----+

試したこと

joinについて

cdf = adf.join(bdf, ['id'], 'inner')

補足情報(FW/ツールのバージョンなど)

mac
python 3.7.3
pyspark 2.4.5
java openjdk13

他のselect,fileter,groupbyなどは上手くいきます。
showの部分をコメントアウトするとエラーは出ないです。

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答1

0

自己解決

java versionでした。

投稿2020/03/19 06:55

yuki0716

総合スコア6

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.50%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問