Q&A
iconvの正確なバージョンを記していただけますか。
###やりたいこと→hageディレクトリ以下のhtmlファイルすべてのエンコードをEUC-JPからUTF-8にしたい
hageディレクトリ以下のhtmlファイルすべてのエンコードをEUC-JPからUTF-8にしたいと思い、
テキストファイルを一括でiconv - Qiita
を参考に
find hage -type f | xargs file | grep ":.*HTML" | cut -d: -f1 | xargs -t -I{} iconv -f EUC-JP -t UTF-8 {} -o {}
としたところ、
iconv -f EUC-JP -t UTF-8 hage/2016/2016_04_22/04_22本日のほげ君/あ.html -o hage/2016/2016_04_22/04_22本日のほげ君/あ.html
iconv -f EUC-JP -t UTF-8 hage/2016/2016_04_22/04_22本日のほげ君/い.html -o hage/2016/2016_04_22/04_22本日のほげ君/い.html
iconv -f EUC-JP -t UTF-8 hage/2016/2016_04_22/04_22本日のほげ君/い_files/DataListTitle.html -o hage/2016/2016_04_22/04_22本日のほげ君/い_files/DataListTitle.html
iconv -f EUC-JP -t UTF-8 hage/2016/2016_04_22/04_22本日のほげ君/い_files/DataListHyou.html -o hage/2016/2016_04_22/04_22本日のほげ君/い_files/DataListHyou.html
iconv: 位置 32551 に不正な入力シーケンスがあります
iconv -f EUC-JP -t UTF-8 hage/2016/2016_04_22/04_22本日のほげ君/あ_files/DataListTitle.html -o hage/2016/2016_04_22/04_22本日のほげ君/あ_files/DataListTitle.html
iconv -f EUC-JP -t UTF-8 hage/2016/2016_04_22/04_22本日のほげ君/あ_files/DataListHyou.html -o hage/2016/2016_04_22/04_22本日のほげ君/あ_files/DataListHyou.html
xargs: iconv: シグナル 7 によって終了しました
xargs: file: シグナル 13 によって終了しました
と表示されました。
変換したいHMTMLのソースはすべて
HITML
12 <meta http-equiv="Content-Type" content="text/html; charset=EUC-JP">
と書いてあるのでEUC−JPからUTF-8で良いと思います。
$ echo $LANG
ja_JP.UTF-8
と出ました。
また、（hage/2016/2016_04_22/04_22本日のほげ君/い.html -o hage/2016/2016_04_22/04_22本日のほげ君/い.html ）の後のファイルのエンコーディングがEUC-JP→UTF8に変換されていませんでした。
どのようにすればhageディレクトリ以下のhtmlファイルすべてのエンコードをEUC-JPからUTF-8にできますか。
ご存知のかたがいらっしゃいましたら教えていただけないでしょうか？
###補足情報(言語/FW/ツール等のバージョンなど)
環境はubuntu15.10
bash
です。
$ iconv --version iconv (Ubuntu GLIBC 2.21-0ubuntu4.3) 2.21 Copyright (C) 2015 Free Software Foundation, Inc. This is free software; see the source for copying conditions. There is NO warranty; not even for MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. 作者 Ulrich Drepper。でした。nkfではうまくいったのになぜiconvでは途中で変換が止まってしまったのでしょうか…。
また、hage/2016/2016_04_22/04_22本日のほげ君/あ_files/DataListHyou.html のファイルサイズを教えて下さい。また他のファイルはこのファイルより小さいですか、大きいですか。
hage/2016/2016_04_22/04_22本日のほげ君/あ_files/DataListHyou.htmlは32KBでした、その他変換できなかったhtmlファイルはだいたい180KB〜185KBありました。ファイルの容量が大きいと処理ができないということですか？シグナル 7 で検索すると、メモリ関連がヒットしたので、ファイルが大きすぎて処理できなかった（フリーズ？）ということですか…？
回答2件
0
ベストアンサー
シグナル 7 (バスエラー) で異常終了したのは、iconvのなんらかのバグによるものと考えてよいと思います。ウェブ検索してみると、libiconvを使用するソフトウェアで似たような報告がいくつか見つかりますが、再現条件がはっきりしない (コンパイルし直すと直ったりする) ため、原因を特定できないままのようです。
-oオプションでファイルを上書きしているとファイルサイズが32kiBを超えたあたりで現象が起きるという報告を見かけました (とあるブログの記事)。確証はありませんが、これが異常終了のトリガなのだとすると、上書きをしないようにすることで回避できるかもしれません。具体的には、次のようにすればいいと思います。
- iconvによる変換結果を、元のファイルとは別の一時ファイルにいったん保存する。
- 一時ファイルの内容で元のファイルを置き換える。
投稿2017/01/24 10:03
総合スコア4443
ご親切に解説していただきありがとうございます。
手作業でやっていたら日が暮れるので楽チンな方法は〜がきっかけで
バスエラーなんて聞いたこともないことが起こるなんて…。（初耳でした…。）
大変勉強になりました。
これを機にLinux内部でどんなことがおこっているのか（xargs を使ったら高速になる理由やシグナル、プロセス？等）について勉強してみたいと思います！
すっきりしない回答になってしまいました。
iconvを最新のバージョンにアップデートすれば直ったりするかも知れませんが、ubuntuなどではlibiconvがglibcに組み込まれてしまっているので、少々難しいですね。今後glibcをアップデートしたときにでも、直っているか確認してみるとよいかもしれません。
ありがとうございます。
>すっきりしない回答になってしまいました。
とんでもないです。
私自身Linuxを触り始めてまだ日が浅く、勉強不足なところが多くあります。
Linuxを使いこなせるよういろいろと勉強にさせていただきます！
0
申し訳ありません。
解決いたしました。
まさおのブログ (表): ファイルの文字コードを一括変換 (find, nkf, xargs)
を参考にさせていただきました。
find . -type f -exec nkf -w --overwrite {} ;
お騒がせしてしまい。大変失礼いたしました
投稿2017/01/24 08:05
総合スコア120
あなたの回答
tips
プレビュー
