質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
87.20%
Hadoop

Apache Hadoopは大規模なデータの分散処理をサポートするJavaソフトウェアフレームワークです。Hadoopを利用すると、数千ノードおよびペタバイト級のアプリケーションデータを処理することができます。

Eclipse

Eclipseは、IBM社で開発された統合開発環境のひとつです。2001年11月にオープンソース化されました。 たくさんのプラグインがあり自由に機能を追加をすることができるため、開発ツールにおける共通プラットフォームとして位置づけられています。 Eclipse自体は、Javaで実装されています。

受付中

eclipseでhadoopを使用するときの問題点について

makecolors
makecolors

総合スコア6

Hadoop

Apache Hadoopは大規模なデータの分散処理をサポートするJavaソフトウェアフレームワークです。Hadoopを利用すると、数千ノードおよびペタバイト級のアプリケーションデータを処理することができます。

Eclipse

Eclipseは、IBM社で開発された統合開発環境のひとつです。2001年11月にオープンソース化されました。 たくさんのプラグインがあり自由に機能を追加をすることができるため、開発ツールにおける共通プラットフォームとして位置づけられています。 Eclipse自体は、Javaで実装されています。

1回答

0評価

0クリップ

1991閲覧

投稿2014/11/12 16:27

今までeclipseにHadoopに関する必要なライブラリを追加してプログラムを実行していたのですが、
実行途中にある問題が起き、conf/mapred-site.xmlの変更をすることになりました。
設定を追加すれば直るはずだったのですが、うまくいきませんでした。
少し調べてみると、気になることがいくつか出てきました。

  • eclipseは自分のセッティングしたmapred-site.xmlが反映されていないのではないか
  • コンソール上でHadoopのNameNodeやDataNodeのデーモンを起動していないにも関わらず、wordcount等のサンプルプログラムは動いてしまう

おそらく、自分の問題点はコンソール上で直接コマンドを入力すれば解決するのだろうと思われます。
知りたいことは3点です

  • EclipseでHadoopのプログラムを実行する際、どこのconfigファイル(hdfs-site.xmlやmapred-site.xml)を参照しているのか
  • どこのconfigファイルに参照しているか確認できる方法はあるのか
  • なぜ、コンソール上でデーモンが立ち上がっていないのにプログラムを実行できてしまうのか

宜しくお願い致します。

環境は以下の通りです。

  • VMware Player 6
  • Ubuntu 14.04 LTS Desktop japanese remix
  • Hadoop 0.20.203.0
  • Apache Giraph 1.1.0
  • Eclipse4.4

ちなみに上述で直面した問題は
Exceeded limits on number of counters - Counters=120 Limit=120というエラーです。
今回の問題とはあまり関係がなさそうなので補足までです。

良い質問の評価を上げる

以下のような質問は評価を上げましょう

  • 質問内容が明確
  • 自分も答えを知りたい
  • 質問者以外のユーザにも役立つ

評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

気になる質問をクリップする

クリップした質問は、後からいつでもマイページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

  • プログラミングに関係のない質問
  • やってほしいことだけを記載した丸投げの質問
  • 問題・課題が含まれていない質問
  • 意図的に内容が抹消された質問
  • 過去に投稿した質問と同じ内容の質問
  • 広告と受け取られるような投稿

評価を下げると、トップページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

まだ回答がついていません

会員登録して回答してみよう

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
87.20%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問

同じタグがついた質問を見る

Hadoop

Apache Hadoopは大規模なデータの分散処理をサポートするJavaソフトウェアフレームワークです。Hadoopを利用すると、数千ノードおよびペタバイト級のアプリケーションデータを処理することができます。

Eclipse

Eclipseは、IBM社で開発された統合開発環境のひとつです。2001年11月にオープンソース化されました。 たくさんのプラグインがあり自由に機能を追加をすることができるため、開発ツールにおける共通プラットフォームとして位置づけられています。 Eclipse自体は、Javaで実装されています。