質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.48%
UTF-8

UTF-8は8ビット符号単位の文字符号化形式及び文字符号化スキームです。データ交換方式、ファイル形式としては、一般的にUTF-8が使われる傾向があります。

Q&A

解決済

2回答

5823閲覧

全文検索構築中。中国漢字が?になってしまう。(HyperEstraier)

yasbon

総合スコア11

UTF-8

UTF-8は8ビット符号単位の文字符号化形式及び文字符号化スキームです。データ交換方式、ファイル形式としては、一般的にUTF-8が使われる傾向があります。

0グッド

0クリップ

投稿2016/01/19 04:46

全文検索のシステムを構築中です。
エンジンはHyperEstraier(Win版バイナリ)V1.4.10を採用。
サーバーはWindos2008R2 Server。
その他、IIS6.1,ActivePerl5.8.9

H.E.付属のestseek.cgiを利用して検索。

インデックス作成は下記コマンドを実行(パスは適当)
estcmd gather -ft -bc -lt -1 -sd -cm -um C:\temp\casket "c:\temp\test"

Q:英語,日本語,中国語を含むExcel,Wordファイルを対象とした場合、
・中国語を含むファイルのみ文字化けしてしまいインデックス作成できない。
Dirコマンドでファイル名を見ると文字化けしないが、estcmd実行時のログは化けている
・本文の中国語が全て”?”になってしまう。
もちろん、インデックスに存在しないので、検索できない。

※中国語・・・日本の漢字に存在しない?文字(产,份など)

対策をご存知の方がいらっしゃいましたら、ご教授御願いいたします。

■補足■
份.xls,份.txt を対象(testフォルダに保存)
estcmd gather -ft -bc -lt -1 -sd -cm -um C:\temp\casket "c:\temp\test" を実行

estcmd: INFO: reading list from the directory: c:\temp\test
estcmd: INFO: status: name=C:\temp\casket dnum=10 wnum=7926 fsiz=7090333 crnum=0 csiz=0 dknum=0
estcmd: ERROR: c:\temp\test?.txt: could not open
estcmd: ERROR: c:\temp\test?.xls: could not open
estcmd: INFO: closing: name=C:\temp\casket dnum=10 wnum=7926 fsiz=7090333 crnum=0 csiz=0 dknum=0
estcmd: INFO: finished successfully: elapsed time: 0h 0m 0s
となります。

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答2

0

試しにコマンドプロンプトでchcp 65001を実行してコードページをUTF-8に変更してから実行してみてはどうでしょうか。
その状態ですと、ANSI文字をUTF-8として処理するので、もしかしたら中国語(非JISコード文字)を受け入れてくれるかもしれません。

ただし、コマンドプロンプト上は非ASCII文字が正しく表示できませんので、表示を確認する際はリダイレクトしてファイルに書く必要があります。

投稿2016/01/19 06:59

catsforepaw

総合スコア5938

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

yasbon

2016/01/19 07:22

回答有難う御座います。 テストデータを作り、行ってみた結果、無事に登録できました。 日本語パスなどがあり、cp932で行わないと文字化けが発生してしまうため、 chcp 932 で行っていました。 ファイルによって処理を変えるなど検討することは多々ありそうですが、 対策の方向性が見えてきました。 有難う御座いました。
yasbon

2016/01/19 07:35

補足: バッチファイルで実行していたが、バッチファイルの文字コードがUTF-8でないと実効できない。
yasbon

2016/01/19 07:48

非常に悩みましたが、今回はソースファイルを読んでまでの回答ということ, ファイル名は出来ないという大きな進展がありましたので、yubaさんにベストアンサー させていただきます。(chcp のコマンド自体は知っていたということもありますので)
guest

0

ベストアンサー

ユーザー側でこの問題を解決するのはちょっと絶望的です。
ソースファイルを見るとファイルを開くのをすべて fopen() 関数で行っています。
この関数はマルチバイトエンコーディング、つまり日本語版WindowsならSHIFT-JISで引数を受け取るようになっているので中国漢字は原理的に渡しようがありません。

Windows環境ではファイルパスをワイド文字で扱ってCreateFileW()もしくは_wfopen()関数でアクセスするように書いてあれば可能だったのですが、そうはなっていないので、中国語版Windowsで実行する以外に方法はなさそうです。

投稿2016/01/19 05:23

yuba

総合スコア5568

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

yasbon

2016/01/19 05:34

回答有難う御座います。 HyperEstraierのホームページを見ると、”Unicode(UCS2)の全ての文字を扱えるので、日本語や英語はもちろん、中国語、韓国語、ロシア語、フランス語、ドイツ語、スペイン語など、現在世界で使われているほぼ全ての言語の文書を検索対象にすることができます”という記載があります。 この意味が、ユーザー側の環境どれでも使えます。という意味であれば、できないのかもしれませんね。 サーバーも管理しているので、サーバーの設定変更で行けるものなのでしょうか。
yuba

2016/01/19 05:44

ファイルの内容については多言語対応しているのかもしれませんが、ファイル名についてはソースファイルを読む限り多言語化されていないですね。
yasbon

2016/01/19 06:13

回答有難う御座います。 なるほど・・・ ファイル名に関しては他の対策を考える他ないということですね。 本文内の中国語が"?"になってしまうのは、何とかなるということでしょうか。 100万文書くらいあり、日本語と多言語が混在しているので、簡単な方法があると いいのですが・・・。
yasbon

2016/01/19 07:47

非常に悩みましたが、今回はソースファイルを読んでまでの回答ということ, ファイル名は出来ないという大きな進展がありましたので、yubaさんにベストアンサー させていただきます。(chcp のコマンド自体は知っていたということもありますので)
catsforepaw

2016/01/19 07:55

多言語化は重要なテーマですね。せっかく作ったツールでユーザーにこんな思いをさせないためにも。
yuba

2016/01/19 08:40

CHCPコマンド、標準出力の制御だけだと思っていたのでAPI各関数のエンコーディングにまで及んでいるとはちょっと想像が及んでいませんでした。 また、ソースを読んだっていっても症状からあたりを付けてfopen, CreateFileで全文検索をかけただけなので大したことはしていないです⋯
yasbon

2016/01/21 01:55 編集

調査結果を投稿します。 ・パス(ファイル名,フォルダ名)に中国語が含まれていると、登録できません。 ・Office文書にて、本文に中国語が入っている場合、"estxfilt.bat"を修正する必要がある。 "xdoc2txt"のオプション"-s"を"-8"に変更する。 ※HyperEstraierに同梱されているxdoc2txtはバージョンが古いので、最新版と置き換える必要がある。 登録の仕方 1.コマンドプロンプトを起動する 2.chcp 65001 を実行し、UTF-8へ文字コードを変更する 3.estcmd gather -kn 4096 -um -il ja -cl -fx .xls,.xlsx,.xlsm,.ppt,.pptx,.doc,.docx T@estxfilt -ic UTF-8 -pc CP932 -sd -cm -lf -1 -lt -1 -xh casket "文書フォルダ" を実行する ※パスに日本語が含まれている場合、"-pc CP932"が必要 ※バッチファイル等で実行する場合、バッチファイルの文字コードをUTF-8にする必要があるかも。 現在:中国語のパスをどうにかしたいと検討中
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.48%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問