前提
- databricksにてSQLのnotebookを作成し、SQLを実行しています。
- databricksにてPythonのnotebookを作成し、マジックコマンド(%)でSQLを指定しSQLを実行しています。
質問
上記、1、2については、SparkSQLを用いて実行している理解で良いでしょうか?
もしくは、SparkSQLとは別のSQLを使用しているということでしょうか?
気になっていること
http://lab.astamuse.co.jp/entry/2017/03/01/114500
上記サイトを参照すると、spark.sql("SQL文")という形式でSQLを実行しておりました。
前提に記載した方法の場合、SQL文のみで実行できるのでSparkSQLではないSQLではと懸念しております。
Spark
1val spark = SparkSession.builder() 2 .master("yarn") 3 .appName("Test") 4 .getOrCreate() 5 6// Spark SQL 7spark.sql("select * from hoge").show()
情報不足しているようでしたらご指摘ください。
あなたの回答
tips
プレビュー