python で SQL Server の varchar の文字列を取得するとエラーが発生する

Question

実現したいこと

python で SQL Server の varchar の文字列を取得したい。

前提

既存の SQL Server のデータを分析するための python のプログラムを作成しようとしています。
下記のプログラムで取得してる M_商品.商品名 は varchar 型ですが、これを取得しようとするとエラーが発生します。

SQL Server 側には変更を加えず、python 側で対応する方法を知りたいです。
pyodbc を使用していますが、他の接続方法で解消するならそれでも構いません。

もし python で解消できない場合は他の言語にすることも検討しますが、最終的に Docker コンテナにしたいので、その前提でお勧めの言語があれば教えていただけると助かります。

発生している問題・エラーメッセージ

Traceback (most recent call last):
  File "/workspace/app/test.py", line 12, in <module>
    row = cursor.fetchone()
          ^^^^^^^^^^^^^^^^^
pyodbc.Error: ('HY000', '[HY000] [Microsoft][ODBC Driver 17 for SQL Server]Unicode conversion failed (22) (SQLGetData)')

該当のソースコード

import pyodbc
 
server = "xxxxxxxx"
database = "xxxxxxxx"
user = "xxxxxxxx"
password = "xxxxxxxx"
 
con = pyodbc.connect('DRIVER={ODBC Driver 17 for SQL Server};SERVER=' + server + ';DATABASE=' + database + ';UID=' + user + ';PWD=' + password + ';')
cursor = con.cursor()
cursor.execute("SELECT 商品名 FROM M_商品 WHERE 商品CD = 1001;")

row = cursor.fetchone()
 
while row:
    print(row)
    row = cursor.fetchone()
 
cursor.close()

試したこと

別途動作テスト用のテーブルを作成し、nvarchar 型の値を取得する場合は正常に動作することを確認しました。

補足情報（FW/ツールのバージョンなど）

Python 3.12.1
pyodbc 5.0.1
msodbcsql 17.10.5.1
SQL Server Standard 15.0.4236.7

Comments

[YT0014]

SELECT 商品名 as hoge FROMなどと、カラム名を半角英数にしたら、エラーが解消されるかも。
他には、接続時に、接続元のデータベースの文字コードを指定してみるとか。

[uniog]

> SELECT 商品名 as hoge FROMなどと、カラム名を半角英数にしたら、エラーが解消されるかも。

解消されませんでした。
DBのカラムの型が nvarchar であればカラム名が日本語でもエラーにならなので、カラム名の問題ではないはずです。

> 他には、接続時に、接続元のデータベースの文字コードを指定してみるとか。

これはどのようにしたらよいでしょうか？
公式のものかはわかりませんが、次のマニュアルには文字コードの指定方法が記載されていません。

Connecting to SQL Server from Linux
https://github.com/mkleehammer/pyodbc/wiki/Connecting-to-SQL-Server-from-Linux

[YT0014]

失礼。接続時ではなく、接続後のようです
https://github.com/mkleehammer/pyodbc/wiki/Connection#setencoding
その下の setdecoding() も、お試しください

Answer 1

Microsoft ODBC Driver for SQL Server プログラムガイドラインの、「文字セットのサポート」にて、以下の記述があります。

「接続時に、読み込まれているプロセスの現在のロケールがドライバーによって検出されます。 上記のいずれかのエンコードを使用している場合、ドライバーでは SQLCHAR (ナロー文字) データにそのエンコードが使用されます。それ以外の場合は、既定の UTF-8 が使用されます。 」

「SQLWCHAR データは UTF 16LE (リトル エンディアン) である必要があります。」

以上より、varcharのカラムとnvarcharのカラムでは、異なる文字コードが適用されているものと思われます。
Connection#setencoding()やConnection#setdecodingを使用することで、修正される可能性が高いと思われます。

なお、上記内容は、ドキュメント参照のみによるもので、未検証です。

Comments

[uniog]

直接的な原因はご指摘いただいた箇所とは異なりましたが、リンク先を参考にして解決しました。

> musl と glibc には iconv の違いがあるため、これらのロケールの多くは、Alpine Linux ではサポートされていません。

OSを alpine から bullseye に変更することで解決しました。

[YT0014]

解決して良かったです。
OSの問題だったとは。
蛇足ですが、このようなこともあるので、質問の際には、OS情報なども記載されることをお勧めします。