pythonでnltkが動作しない

Question

pythonでnltkをimportして、単語の共起の結果を出力するプログラムを作成しようとしました。
そのため、ネットに上がっていたサンプルプログラムを動かそうとしたのですが、エラーが
出てしまい実行が出来ません。

import nltk
f = open('obama_inaugural_transcript.txt')
raw = f.read()
tokens = nltk.word_tokenize(raw)   #テキストをトークンに分割
print(tokens)

<obama_inaugural_transcript.txtの中身>
'I stand here today humbled by the task before us, grateful for the trust you've bestowed, mindful of the sacrifices borne by our ancestors.\n\n I thank President Bush for his service to our nation

<実行結果>
Traceback (most recent call last):
  File "C:\atom\sample.py", line 3, in <module>
    tokens = nltk.word_tokenize(raw)
  File "C:\Anaconda\lib\site-packages\nltk\tokenize\__init__.py", line 130, in word_tokenize
    sentences = [text] if preserve_line else sent_tokenize(text, language)
  File "C:\Anaconda\lib\site-packages\nltk\tokenize\__init__.py", line 96, in sent_tokenize
    tokenizer = load('tokenizers/punkt/{0}.pickle'.format(language))
  File "C:\Anaconda\lib\site-packages\nltk\data.py", line 814, in load
    opened_resource = _open(resource_url)
  File "C:\Anaconda\lib\site-packages\nltk\data.py", line 932, in _open
    return find(path_, path + ['']).open()
  File "C:\Anaconda\lib\site-packages\nltk\data.py", line 653, in find
    raise LookupError(resource_not_found)
LookupError: 
**********************************************************************
  Resource 'tokenizers/punkt/english.pickle' not found.  Please
  use the NLTK Downloader to obtain the resource:  >>>
  nltk.download()
  Searched in:
    - 'C:\Users\�_��/nltk_data'
    - 'C:\nltk_data'
    - 'D:\nltk_data'
    - 'E:\nltk_data'
    - 'C:\Anaconda\nltk_data'
    - 'C:\Anaconda\lib\nltk_data'
    - 'C:\Users\�_��\AppData\Roaming\nltk_data'
    - ''
**********************************************************************

実行できると下記が出力される
['I','stand','here','today','humbled','by','the','task','before','us',',','grateful','for','the','trust','you',"'ve",'bestowed',',','mindful','of','the','sacrifices','borne','by','our','ancestors','.','I','thank','President','Bush','for','his','service','to','our','nation']

長々と申し訳ありませんが、宜しくお願い致します。

Answer 1

対話的インタプリタを起動して

>>> import nltk
>>> nltk.download('punkt')

としてください。

Comments

[syen2501]

ありがとうございます。
無事に動きました。

しかし、入力する文章を「ポットが100℃以上になったら、保温モードに遷移する」と日本語に
すると文字化けしてしまうのですが、日本語ではできないのでしょうか？

[hayataka2049]

できません。MeCab等の日本語形態素解析器を代わりに使ってください