質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.48%
Hadoop

Apache Hadoopは大規模なデータの分散処理をサポートするJavaソフトウェアフレームワークです。Hadoopを利用すると、数千ノードおよびペタバイト級のアプリケーションデータを処理することができます。

Eclipse

Eclipseは、IBM社で開発された統合開発環境のひとつです。2001年11月にオープンソース化されました。 たくさんのプラグインがあり自由に機能を追加をすることができるため、開発ツールにおける共通プラットフォームとして位置づけられています。 Eclipse自体は、Javaで実装されています。

Q&A

1回答

2227閲覧

eclipseでhadoopを使用するときの問題点について

makecolors

総合スコア6

Hadoop

Apache Hadoopは大規模なデータの分散処理をサポートするJavaソフトウェアフレームワークです。Hadoopを利用すると、数千ノードおよびペタバイト級のアプリケーションデータを処理することができます。

Eclipse

Eclipseは、IBM社で開発された統合開発環境のひとつです。2001年11月にオープンソース化されました。 たくさんのプラグインがあり自由に機能を追加をすることができるため、開発ツールにおける共通プラットフォームとして位置づけられています。 Eclipse自体は、Javaで実装されています。

0グッド

0クリップ

投稿2014/11/12 16:27

今までeclipseにHadoopに関する必要なライブラリを追加してプログラムを実行していたのですが、
実行途中にある問題が起き、conf/mapred-site.xmlの変更をすることになりました。
設定を追加すれば直るはずだったのですが、うまくいきませんでした。
少し調べてみると、気になることがいくつか出てきました。

  • eclipseは自分のセッティングしたmapred-site.xmlが反映されていないのではないか
  • コンソール上でHadoopのNameNodeやDataNodeのデーモンを起動していないにも関わらず、wordcount等のサンプルプログラムは動いてしまう

おそらく、自分の問題点はコンソール上で直接コマンドを入力すれば解決するのだろうと思われます。
知りたいことは3点です

  • EclipseでHadoopのプログラムを実行する際、どこのconfigファイル(hdfs-site.xmlやmapred-site.xml)を参照しているのか
  • どこのconfigファイルに参照しているか確認できる方法はあるのか
  • なぜ、コンソール上でデーモンが立ち上がっていないのにプログラムを実行できてしまうのか

宜しくお願い致します。

環境は以下の通りです。

  • VMware Player 6
  • Ubuntu 14.04 LTS Desktop japanese remix
  • Hadoop 0.20.203.0
  • Apache Giraph 1.1.0
  • Eclipse4.4

ちなみに上述で直面した問題は
Exceeded limits on number of counters - Counters=120 Limit=120というエラーです。
今回の問題とはあまり関係がなさそうなので補足までです。

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答1

0

Hadoop は全く知らないので外しているかもしれませんが・・・。

eclipseは自分のセッティングしたmapred-site.xmlが反映されていないのではないか

conf/mapred-site.xml はどこに作りましたか?
Eclipse では実行プログラムのカレントディレクトリは(ソースファイルを置いたディレクトリではなく)プロジェクト直下になります。
もしも、conf/mapred-site.xml をカレントディレクトリから追って読む仕様だとしたら、conf ディレクトリは プロジェクト直下に置かなければなりません。

投稿2016/02/10 16:37

kozuchi

総合スコア1193

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

まだベストアンサーが選ばれていません

会員登録して回答してみよう

アカウントをお持ちの方は

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.48%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問