jQueryにおける、特定の条件の除き方を教えてください

Question

wikipediaの映画一覧(https://ja.wikipedia.org/wiki/Category:2016%E5%B9%B4%E3%81%AE%E6%98%A0%E7%94%BB)のページから、各映画のURLを
jQueryで取得しようとしています。

    $("ul").children("li").children("a").each(function (idx) {
        console.log("リンク：" + $(this).attr('href'));
    });

環境は、node.jsのスクレイピングモジュール cheerio-httpcliを使っています

このような書き方で、全て取得できたのですが、

2016年の日本公開映画
2016年の映画
第73回ヴェネツィア国際映画祭
第69回カンヌ国際映画祭
第11回札幌国際短編映画祭
第29回東京国際映画祭
第41回トロント国際映画祭
2016年日本週末興行成績1位の映画の一覧

と言った、米印の映画ではないページを除きたいです。

**上記の写真ののように、<h3>*</h3>が含まれたdivを除いた〜と書く場合はどのようにしたら良いかご教授ください。

もしよろしければ、children().children().みたいな書き方より美しい書き方がありましたら、それも教えてください。

Comments

[yambejp]

wikipediaのページ自体どうやって取得しているのでしょうか？

[SASAKI_APPL]

すみません、node.jsのスクレイピングモジュールのcheerio-httpcliってものを使っています

Answer 1

Wikipediaからデータを取るのなら、スクレイピングしなくても、APIで取れますし、そうすべきでしょう。

「カテゴリ内の全ページ」でしたら、categorymembersを使えます。

APIへのアクセス例

Comments

[SASAKI_APPL]

ありがとうございます！そんな便利なAPIがあったんですね！助かりました。

[SASAKI_APPL]

再びすみません、

https://ja.wikipedia.org/w/api.php?action=query&format=xml&list=categorymembers&cmtitle=Category:2016年の映画&cmlimit=2000
とやると
https://ja.wikipedia.org/wiki/Category:2016%E5%B9%B4%E3%81%AE%E6%98%A0%E7%94%BB
このページから観れる全ての映画を取得できるのですが、

*
2016年の日本公開映画
2016年の映画
第73回ヴェネツィア国際映画祭
第69回カンヌ国際映画祭
第11回札幌国際短編映画祭
第29回東京国際映画祭
第41回トロント国際映画祭
2016年日本週末興行成績1位の映画の一覧

と言った、米印の映画ではないページも含まれてしまいます。
これを除く方法はありますでしょうか。

[maisumakun]

cmprop=sortkeyprefix|titleのようにすればソートキーも取れますので、取得してからsortkeyをチェックしてください。

[SASAKI_APPL]

ありがとうございます！確認してみます。

Answer 2

もしよろしければ、children().children().みたいな書き方より美しい書き方がありましたら、それも教えてください。

// この書き方は速度面では優れている
$("ul").children("li").children("a")

// 速度が多少落ちても良いなら下記のようにCSSセレクタを利用した書き方が可能
$("ui > li > a")

<h3>*</h3>が含まれたdivを除いた〜と書く場合はどのようにしたら良いか

eachでもなんとでもなるんだけど、jQuery的な解決をするなら……
filter(fn)で該当の要素を取り除く。

それぞれのui要素はfilter(fn)の関数内で$(this)とやればアクセス出来るので、prevやparentを駆使して狙いのh3要素を検索する。
filter(fn)は戻り値がfalseのものを除外するので、<h3>*</h3>の要素が見つかったものだけfalseを返して、見つからなければtrueを返す。

Comments

[SASAKI_APPL]

ありがとうございます。書き方で速度も変わるのですね。filter(fn)、使ってみたいと思います。ありがとうございます。

Answer 3

**上記の写真ののように、<h3>*</h3>が含まれたdivを除いた〜と書く場合はどのようにしたら良いかご教授ください。

動作検証してないので、処理のイメージが浮かぶ参考になれば。。
セレクタだけで解決するのは無理だと思うので、間に if文でチェックが必要になりそうです。

$(".mw-category-group").each(function(){
  // <h3>タグの中身を検証
  if( $(this).children('h3').text() !== "*") {
    // <h3>*</h3>が含まれていないときは、配下のa要素をすべて処理
    $(this).find('a').each(function (idx) {
        console.log("リンク：" + $(this).attr('href'));
    });
  }
});

もしよろしければ、children().children().みたいな書き方より美しい書き方がありましたら、それも教えてください。

$("ul").children("li").children("a")を全く同じ意味のセレクタにするなら$("ul > li > a")です。

ただこれだとウィキペディアの左サイドメニューも対象になってしまうので、↓のほうがベターかと思います。
$("#mw-pages li > a")
$(".mw-category-group a")

Comments

[SASAKI_APPL]

ありがとうございます！大変、書き方の参考になりました！
ただし、今回のwikipediaにはmediawikiのapiで綺麗に取得する方法があるそうなので、そちらをベストアンサーにさせていただきます。ご回答本当にありがとうございまうす。jQueryでのDOMの操作の仕方をほとんど知らなかったのでもっと勉強したいと思います。

[rkojima]

スクレイピングは力業なので、対象サイトに負荷かかる＆取得も遅いのでベストな選択だと思います。
私もAPIがあることを知らなかったので参考になりました。

Answer 4

var list = $('div.mw-category-group ul li:not(:first) a');
list.each(function(i, obj){
    Console.log(obj.text());
});

※未検証です。