質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.47%
SQL

SQL(Structured Query Language)は、リレーショナルデータベース管理システム (RDBMS)のデータベース言語です。大きく分けて、データ定義言語(DDL)、データ操作言語(DML)、データ制御言語(DCL)の3つで構成されており、プログラム上でSQL文を生成して、RDBMSに命令を出し、RDBに必要なデータを格納できます。また、格納したデータを引き出すことも可能です。

Spark

Spark(Apache Spark)とは、膨大なデータを迅速、柔軟に分散並行処理を行うフレームワークです。分析ツールであるApache Hadoopと比較し、最大で100倍の速度でデータ処理ができるとされています。

Q&A

0回答

1394閲覧

databricks上でのSQL実行について

Tiroze

総合スコア35

SQL

SQL(Structured Query Language)は、リレーショナルデータベース管理システム (RDBMS)のデータベース言語です。大きく分けて、データ定義言語(DDL)、データ操作言語(DML)、データ制御言語(DCL)の3つで構成されており、プログラム上でSQL文を生成して、RDBMSに命令を出し、RDBに必要なデータを格納できます。また、格納したデータを引き出すことも可能です。

Spark

Spark(Apache Spark)とは、膨大なデータを迅速、柔軟に分散並行処理を行うフレームワークです。分析ツールであるApache Hadoopと比較し、最大で100倍の速度でデータ処理ができるとされています。

0グッド

1クリップ

投稿2019/10/15 05:18

前提

  1. databricksにてSQLのnotebookを作成し、SQLを実行しています。
  2. databricksにてPythonのnotebookを作成し、マジックコマンド(%)でSQLを指定しSQLを実行しています。

質問

上記、1、2については、SparkSQLを用いて実行している理解で良いでしょうか?
もしくは、SparkSQLとは別のSQLを使用しているということでしょうか?

気になっていること

http://lab.astamuse.co.jp/entry/2017/03/01/114500

上記サイトを参照すると、spark.sql("SQL文")という形式でSQLを実行しておりました。
前提に記載した方法の場合、SQL文のみで実行できるのでSparkSQLではないSQLではと懸念しております。

Spark

1val spark = SparkSession.builder() 2 .master("yarn") 3 .appName("Test") 4 .getOrCreate() 5 6// Spark SQL 7spark.sql("select * from hoge").show()

情報不足しているようでしたらご指摘ください。

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

Orlofsky

2019/10/15 06:50

Databricks, Spark 共にそんなに枯れたソフトウェアではありませんし、同じSQLでもデータベースやそのバージョンによって方言が大きいのが常ですから、火中の栗を拾うつもりでがんばってくだい。
Tiroze

2019/10/23 07:54

ありがとうございます。SQLの方言については承知しているのですが、上記「前提」に記載した内容がSpark SQL に該当するかご存知でしたら教えて頂けますと幸いです。
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

まだ回答がついていません

会員登録して回答してみよう

アカウントをお持ちの方は

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.47%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問