質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.50%
Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

Ubuntu

Ubuntuは、Debian GNU/Linuxを基盤としたフリーのオペレーティングシステムです。

Mecab

Mecabは、オープンソースの形態素解析エンジンです。 言語、辞書、コーパスに依存しない汎用的な設計を基本方針としています。 Mecabの由来は、開発者の好物である和布蕪(めかぶ)から名づけられました。

Q&A

1回答

1330閲覧

webサイトから情報を取得したい

aoisj

総合スコア27

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

Ubuntu

Ubuntuは、Debian GNU/Linuxを基盤としたフリーのオペレーティングシステムです。

Mecab

Mecabは、オープンソースの形態素解析エンジンです。 言語、辞書、コーパスに依存しない汎用的な設計を基本方針としています。 Mecabの由来は、開発者の好物である和布蕪(めかぶ)から名づけられました。

0グッド

0クリップ

投稿2017/11/26 05:17

###前提・実現したいこと
以下のコードではディレクトリ内から.txtファイルを読み込んでいるのですが、

青空文庫から
①テキストファイル(内容+ファイル名)
②そのファイルが青空文庫の分野別リストで分類されている分野(日本文学など)
の情報を取得する機能に変更したいです。

イメージとしては
[ファイル名,分野]
というリストが作成できればと思っています。

###該当のソースコード

python

1#!/usr/bin/env python3 2# -*- coding: utf-8 -*- 3 4""" 5トピックモデル(入力:novel_setの全ての.txtファイル) 6各ファイルの管理可能 7形態素解析対象:名詞(代名詞,非自立名詞,数,固有名詞を除く) 8""" 9 10import time 11import glob 12import MeCab 13from gensim import corpora, models 14 15t0 = time.time() 16 17""" 18files:novel_set内のファイルリスト 19files[file_no]:ファイル番号file_noのファイル名 20""" 21files = glob.glob('novel_set/*.txt') 22 23#形態素解析(文字列を改行位置で区切って分割) 24mecab = MeCab.Tagger ("-Ochasen") 25 26texts = [] 27for file in files: 28 f = open(file, "r",encoding = "utf-8") 29 text = f.read() 30 f.close() 31 chunks = mecab.parse(text).splitlines() 32 33 #絞り込み 34 sels = [] 35 for chunk in chunks: 36 cols = chunk.split('\t') 37 if len(cols) >= 4: 38 parts = cols[3].split('-') 39 #指定した品詞で始まっている場合 → true 40 if parts[0].startswith('名詞'): 41 #代名詞,非自立名詞,固有名詞,数を含めない 42 if parts[1] in ['代名詞','非自立','固有名詞','数']: 43 continue 44 #形態素を追加 45 #sels:形態素(原形)のみの行列 46 sels.append(cols[2]) 47 texts.append(sels) 48 49dictionary = corpora.Dictionary(texts) 50corpus = [dictionary.doc2bow(text) for text in texts] 51 52t1 = time.time() 53 54#トピック数 55num_topics = 10 56 57#LDAモデルに投入 58lda = models.LdaModel(corpus = corpus, id2word = dictionary,num_topics = num_topics) 59 60t2 = time.time() 61 62print(lda) 63 64#各トピックにおける各トークンの出現確率を係数で表示 65for topic in lda.show_topics(-1): 66 print(topic) 67 68corpus_time = t1 - t0 69print('コーパス生成時間:%f秒'%corpus_time) 70 71lda_time = t2 -t1 72print('LDAモデル生成時間:%f秒'%lda_time) 73 74total_time = t2 - t0 75print('合計時間:%f秒'%total_time)

###補足情報
こういった技術はウェブスクレイピングというそうですが、
私には経験がないので、
初歩的なところから説明していただけるとありがたいです。

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

wakame

2017/11/27 09:23

txt毎の分野情報は何に使われる予定ですか?
aoisj

2017/11/27 10:22

テキストファイルのカテゴリ推定に使いたいです。LDAモデルについてはまだまだ勉強不足なのですが、LDAモデル作成➝各トピックが多く含まれるファイルの分野を確認し、各トピックを仮想的にカテゴリとして扱う➝学習データに入力ファイルを追加➝再度LDAモデル作成し、入力データに含まれるトピック(カテゴリ)の比率から最終的な入力データのカテゴリを決定する。 みたいなイメージです。分かりにくかったらすみません。
guest

回答1

0

検索キーワードをどうぞ。

python requests bs4
HTML 仕組み

投稿2017/11/26 12:57

YouheiSakurai

総合スコア6142

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

aoisj

2017/11/27 06:27

bs4の紹介ありがとうございます。 早速インストールしようとしたのですが、既に入っていたようです。
YouheiSakurai

2017/11/27 09:10

bs4はインストールするだけでやりたいことが実現されるような代物ではありません。bs4はPythonライブラリなので、適切に使う事が求められます。「どうやって使うの?」は検索キーワードに「使い方」を追加して調べる、「使ってみたけれどもうまくいかない」は試行錯誤の後にやったとこ、出来ないこと、期待する結果、うまくいかない今の結果、等々を記載してteratailで質問すると良いと思います。
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

まだベストアンサーが選ばれていません

会員登録して回答してみよう

アカウントをお持ちの方は

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.50%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問