質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.50%
Apache

Apacheは、Apache HTTP Serverの略で、最も人気の高いWebサーバソフトウェアの一つです。安定性が高いオープンソースソフトウェアとして商用サイトから自宅サーバまで、多くのプラットフォーム向けに開発・配布されています。サーバーソフトウェアの不具合(NCSA httpd)を修正するパッチ(a patch)を集積、一つ独立したソフトウェアとして開発されました。

Unicode

Unicodeはエンコーディングの標準規格です。1つの文字コード体系で多国語の表現を可能にすることを目指して作られています。

PHP

PHPは、Webサイト構築に特化して開発されたプログラミング言語です。大きな特徴のひとつは、HTMLに直接プログラムを埋め込むことができるという点です。PHPを用いることで、HTMLを動的コンテンツとして出力できます。HTMLがそのままブラウザに表示されるのに対し、PHPプログラムはサーバ側で実行された結果がブラウザに表示されるため、PHPスクリプトは「サーバサイドスクリプト」と呼ばれています。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

Q&A

解決済

3回答

2892閲覧

Python、UnicodeEncodeErrorがPHPのexec経由の時のみ出る

Y.NINOMIYA

総合スコア32

Apache

Apacheは、Apache HTTP Serverの略で、最も人気の高いWebサーバソフトウェアの一つです。安定性が高いオープンソースソフトウェアとして商用サイトから自宅サーバまで、多くのプラットフォーム向けに開発・配布されています。サーバーソフトウェアの不具合(NCSA httpd)を修正するパッチ(a patch)を集積、一つ独立したソフトウェアとして開発されました。

Unicode

Unicodeはエンコーディングの標準規格です。1つの文字コード体系で多国語の表現を可能にすることを目指して作られています。

PHP

PHPは、Webサイト構築に特化して開発されたプログラミング言語です。大きな特徴のひとつは、HTMLに直接プログラムを埋め込むことができるという点です。PHPを用いることで、HTMLを動的コンテンツとして出力できます。HTMLがそのままブラウザに表示されるのに対し、PHPプログラムはサーバ側で実行された結果がブラウザに表示されるため、PHPスクリプトは「サーバサイドスクリプト」と呼ばれています。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

0グッド

0クリップ

投稿2020/04/26 05:59

編集2020/04/26 17:56

お世話になっております。
質問のタイトルがわかりにくく申し訳ありません。情報を詰め込んだらこうなりました。

さて、本題ですが、該当のエラー、ソースコードなどは以下になります。

エラー

Error

1'ascii' codec can't encode characters in position 0-8: ordinal not in range(128)

ソースコード

index.php

PHP

1<?php 2$command="/usr/bin/python3 test.py"; 3exec($command,$output); 4?>

test.py

Python

1# -*- coding: utf-8 -*- 2import csv 3import sys 4data=["aaa", "bbb", "ccc"] 5try: 6 f = open("日本語のファイル名000.csv", 'a',newline = "" ,encoding='utf-8') 7 csvWriter = csv.writer(f) 8 csvWriter.writerow(data) 9 f.close(data) 10except Exception as e: 11 error_log = open('error.log', 'w') 12 error_log.write(str(e)) 13 error_log.close() 14 raise

発生している問題

SSHでpython test.pyとするとエラー無く正常に動作します。しかし、PHPを通すと該当のエラーが発生してしまいます。

環境

Ubuntu 18.04.4 LTS
コードの編集はWinSCPから行っており、環境設定のデフォルト文字コードはUTRF-8に設定されています。

よろしくお願いします。

追記①

PHPのexec関数の引数を以下の2つで試してみましたがエラーは同じでした。

PHP

1$command="LANG=ja_JP.UTF-8 /usr/bin/python3 test.py"

PHP

1$command="PYTHONIOENCODING=UTF-8 /usr/bin/python3 test.py"

追記②

index.phpを以下のように編集しましたが、依然同じエラーです。

PHP

1$locale='ja_JP.UTF-8'; 2setlocale(LC_ALL,$locale); 3putenv('LC_ALL='.$locale); 4 5$command="/usr/bin/python3 test.py"; 6exec($command,$output);

また、Apacheのエラーログに少し詳細な情報が記録されていました。

Error

1Traceback (most recent call last): 2 File "test.py", line 12, in <module> 3 f = open("\u65e5\u672c\u8a9e\u306e\u30d5\u30a1\u30a4\u30eb\u540d000.csv", 'a',newline = "" ,encoding='utf-8') 4UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-8: ordinal not in range(128)

追記③

※いずれもエラーは解消されませんでした

Python側で環境変数を操作する方法
sys.stdout = io.TextIOWrapper(sys.stdout.buffer, encoding='utf-8')を挿入しました。
PHPは元のソースコードのままです。

Python

1# -*- coding: utf-8 -*- 2import csv 3import sys 4import io 5sys.stdout = io.TextIOWrapper(sys.stdout.buffer, encoding='utf-8') 6data=["aaa", "bbb", "ccc"] 7try: 8 f = open("日本語のファイル名000.csv", 'a',newline = "" ,encoding='utf-8') 9 csvWriter = csv.writer(f) 10 csvWriter.writerow(data) 11 f.close(data) 12except Exception as e: 13 error_log = open('error.log', 'w') 14 error_log.write(str(e)) 15 error_log.close() 16 raise

PHP側で環境変数を操作する方法
putenv("PYTHONIOENCODING=utf-8");を挿入しました。
Pythonは元のソースコードのままです。上のPython側で環境変数を操作する方法のソースコードではありません。

PHP

1<?php 2putenv("PYTHONIOENCODING=utf-8"); 3$command="/usr/bin/python3 test.py"; 4exec($command,$output); 5?>

Apacheの実行ユーザを変更
etc/apache2/apache2.confを編集し、Apacheの実行ユーザをwww-dataから'SSH実行ユーザ'へ変更しました。
カレントディレクトリに出力されるエラーログの所有者がwww-dataから'SSH実行ユーザ'へ変更されていたので定義は正常に変更できたものと思われます。


訂正
質問に直接的な影響は無いのですが、元のソースコードのCSVファイルを閉じる部分の最終行

Python

1f = open("日本語のファイル名000.csv", 'a',newline = "" ,encoding='utf-8') 2csvWriter = csv.writer(f) 3csvWriter.writerow(data) 4csvWriter.close(data)

とあったのですが、正しくは

Python

1f = open("日本語のファイル名000.csv", 'a',newline = "" ,encoding='utf-8') 2csvWriter = csv.writer(f) 3csvWriter.writerow(data) 4f.close(data) //この行を変更

でした。エラー該当箇所が今回の訂正箇所より前にあるためプログラムが強制終了してしまい影響は無いのですが一応訂正です。
本文ソースコードは既に訂正されています。

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

Kenji.Noguchi

2020/04/26 06:07 編集

$command="LANG=ja_JP.UTF-8 /usr/bin/python3 test.py";としてみては? これで動かなければ$command="PYTHONIOENCODING=UTF-8 /usr/bin/python3 test.py";
Y.NINOMIYA

2020/04/26 11:21

提案ありがとうございます。 2つとも試してみましたがエラーは変わらずでした、、、
guest

回答3

0

ベストアンサー

次の行を

Python3

1 f = open("日本語のファイル名000.csv", 'a',newline = "" ,encoding='utf-8') 2

次のように変更して、ファイル名のエンコーディングを明示的に指定します。これで動くと思いますし、環境依存にさせないためには、むしろ積極的に指定する方が安全です。

Python3

1 f = open("日本語のファイル名000.csv".encode('utf-8'), 'a',newline = "" ,encoding='utf-8')

僕の最初のコメントの提案がうまく行かなかった理由はおそらくja_JP.UTF-8ロケールが存在しないためです。locale -aコマンドを僕の環境で実行するとja_JP.UTF-8はありません。Ubuntuを日本語の設定なしでインストールすると多分同じ結果になると思います。

bash

1$ locale -a 2C 3C.UTF-8 4en_AG 5en_AG.utf8 6en_AU.utf8 7en_BW.utf8 8en_CA.utf8 9en_DK.utf8 10en_GB.utf8 11en_HK.utf8 12en_IE.utf8 13en_IL 14en_IL.utf8 15en_IN 16en_IN.utf8 17en_NG 18en_NG.utf8 19en_NZ.utf8 20en_PH.utf8 21en_SG.utf8 22en_US.utf8 23en_ZA.utf8 24en_ZM 25en_ZM.utf8 26en_ZW.utf8 27POSIX

ちなみに端末の環境は次の通り。日本語の設定をするとログイン環境によってエラーメッセージが日本語になったり、英語になったり煩雑ですし、環境依存の問題かも?と悩む可能性が一つ増えるので英語のままにしています。これで困ったことはありません。

bash

1$ locale 2LANG=en_US.UTF-8 3LANGUAGE= 4LC_CTYPE="en_US.UTF-8" 5LC_NUMERIC="en_US.UTF-8" 6LC_TIME="en_US.UTF-8" 7LC_COLLATE="en_US.UTF-8" 8LC_MONETARY="en_US.UTF-8" 9LC_MESSAGES="en_US.UTF-8" 10LC_PAPER="en_US.UTF-8" 11LC_NAME="en_US.UTF-8" 12LC_ADDRESS="en_US.UTF-8" 13LC_TELEPHONE="en_US.UTF-8" 14LC_MEASUREMENT="en_US.UTF-8" 15LC_IDENTIFICATION="en_US.UTF-8" 16LC_ALL=

言語はen_USでもエンコーディングはUTF-8なので、修正前のコードを試してみるとうまくいきます。

bash

1$ LANG=en_US.UTF-8 python3 test.py 2$ ls 3test.py 日本語のファイル名000.csv

僕の環境では存在しないロケールja_JP.UTF-8で修正前のコードを試すと同じエラーがおきます。

bash

1$ LANG=ja_JP.UTF-8 python3 test.py 2Traceback (most recent call last): 3 File "test.py", line 8, in <module> 4 f = open("\u65e5\u672c\u8a9e\u306e\u30d5\u30a1\u30a4\u30eb\u540d000.csv", 'a',newline = "" ,encoding='utf-8') 5UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-8: ordinal not in range(128)

.encode('utf-8')を追加した修正後のコードであれば、存在しないロケールを無理やり指定してもエラーになりません。

bash

1$ LANG=ja_JP.UTF-8 python3 test.py

大分長くなりましたが、encode() decode()は必要最小限にし、Pythonの外の世界とやりとりする時にだけ使うようにします。例えばSTDOUTにprintしたりディスクの読み書きやネットワーク、popen(),system()などで外部コマンドを呼び出す時が外の世界になります。その時だけエンコードに注意しましょう。Pythonの内側では、出来る限り文字列はUnicodeオブジェクトのまま、バイト列はbytesのままにすれば、うまく行くようにPythonのライブラリが設計されているからです。今回のファイル名も外界になることは盲点で、僕も勉強になりました。

投稿2020/04/26 19:00

編集2020/04/26 23:36
Kenji.Noguchi

総合スコア358

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

0

PHPを実行するユーザの環境変数はどうなってますか?

サーバの設定次第では、ファイル所有者ではなく、サーバ自身が実行します。
SSHでログインするユーザとは別で、環境設定が異なることがあるので注意。

ApacheのPHP実行ユーザー名を確認する

また、Python用に設定が必要かもしれない環境変数としては、
PYTHONIOENCODING がPythonでの標準出力のエンコーディングを決定します。


追記: PHP/Pythonでの対応方法

方法1: PHP側で環境変数 PYTHONIOENCODING に "utf-8" を設定。

php

1putenv("PYTHONIOENCODING=utf-8");

方法2: Pythonスクリプト内で対応。

これは、PYTHONIOENCODINGを設定するのと同等の効果なので、どちらか片方のみで構いません。

標準出力が規定のエンコーディングに変換されるので、
環境によってはこれを合わせる必要があります。

(但し、追加で提示されたエラーとの関連はわからないので、
まずは日本語が正しく表示できるかどうかを確かめてください)

python

1import io 2import sys 3sys.stdout = io.TextIOWrapper(sys.stdout.buffer, encoding='utf-8')

python3.7 以降での対応方法

import sys sys.stdout.reconfigure(encoding='utf-8')

お使いのPythonのバージョンに合わせて、どちらかスクリプトの先頭の方に記述します。
(バージョン依存を避けたい場合は上の方)

投稿2020/04/26 16:20

編集2020/04/26 17:09
teamikl

総合スコア8664

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

Y.NINOMIYA

2020/04/26 16:42

回答ありがとうございます。 `etc/apache2/apache2.conf`を見てみたところ、 ================================= # These need to be set in /etc/apache2/envvars User ${APACHE_RUN_USER} Group ${APACHE_RUN_GROUP} ================================= とあったので、`/etc/apache2/envvars`を参照しました。そこには ================================= export APACHE_RUN_USER=www-data export APACHE_RUN_GROUP=www-data ================================= と定義してあったので`www-data`が実行ユーザであることがわかりました。 `www-data`をSSHログインユーザに変更すればよいのでしょうか。 よろしくお願いします。
teamikl

2020/04/26 16:46

サーバの設定を変更する権限を持っているなら、それも可能ですが 他にもPHP使っている場合、他の全てに影響があるかもしれないので、 (apacheの設定で可能なら)特定のディレクトリのみに絞った方が良いです。 Pythonスクリプト側での対応方法を回答に追記します。 もしレンタルサーバ等でサーバの設定を変更できない場合は、 PHP呼び出し時に環境変数 PYTHONIOENCODINGを設定や Python側での対応が必要です。
teamikl

2020/04/26 16:52

あ、少し待ってください。追加の情報を今確認しました。 もう一つ確認項目としては、CSVファイルの文字コードが正しいかどうかも確認してください。 (アップロード時に変換されるケースもあるので、必ずサーバ上のファイルを確認)
teamikl

2020/04/26 16:59

すいません、訂正&取り下げします。SSHからは正常に実行できていたのですよね。 CSVファイルの文字コードは大丈夫そうです。
teamikl

2020/04/26 17:05

もう一点訂正、"PYTHONIOENCODING=UTF-8 /usr/bin/python3 test.py" で環境変数は試されていたのですね。見落としてました。
Y.NINOMIYA

2020/04/26 17:36

プログラム内で環境変数に対応する方法を試してみましたが依然同じエラーでした、、、 Pythonのバージョンが3.6.9でしたので前者を試しました。 Apacheの実行ユーザをSSHログインユーザに変更することが可能でしたので定義を変更してみましたが効果はありませんでした。 カレントディレクトリに出力される`error.log`の所有者が`www-data`からログインユーザに変更されていたので実行ユーザの変更には成功しているものと思われます。 また、本文ソースコードに訂正があります。この後本文にも追記しますが、PythonのCSVファイルを閉じようとしている `error_log.close()`は、正しくは`f.close()`でした。 この記述の前にエラー該当箇所があるのでプログラムが終了してしまい到達していませんが、、、、
teamikl

2020/04/26 18:18

UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-8: ordinal not in range(128) position 9文字の「日本語のファイル名」と一致するので、英語のファイル名ではどうですか? 標準出力のエンコーディングではなく、 unicodeファイル名のところ、ファイルシステムのエンコーディングの設定かもしれません https://docs.python.org/ja/3/howto/unicode.html https://docs.python.org/ja/3/library/sys.html#sys.getfilesystemencoding 影響のある環境変数は、 LANG もしくは、LC_CTYPE
guest

0

下記はいかがでしょうか。

PHP

1$locale='ja_JP.UTF-8'; 2setlocale(LC_ALL,$locale); 3putenv('LC_ALL='.$locale); 4 5$command="/usr/bin/python3 test.py"; 6exec($command,$output);

投稿2020/04/26 14:59

yodel

総合スコア508

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

Y.NINOMIYA

2020/04/26 16:06

回答ありがとうございます。 上記コードでも同様のエラーでした... 質問本文にも追記しますがApacheのエラーログから若干詳細のエラーが見れたので添付します。 ==================================== Traceback (most recent call last): File "test.py", line 12, in <module> f = open("\u65e5\u672c\u8a9e\u306e\u30d5\u30a1\u30a4\u30eb\u540d000.csv", 'a',newline = "" ,encoding='utf-8') UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-8: ordinal not in range(128)
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.50%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問