Pythonのos.listdir()で取得したディレクトリ名をクエリにした場合、select文が正しく挙動しない

Question

def name2id(name):
    print u"select id from TABLE where 名前= '%s'"%(unicode(name,'utf8'),)
    cur.execute(u"select id from TABLE where 名前= '%s'"%(unicode(name,'utf8'),))
    return cur.fetchone()[0]

という、データベースを介して、名前からIDを返す簡単な関数を実装しました。

そして、

    for d in os.listdir(Path):
        if d!='.DS_Store':
            name2id(d)

と、Pathで指定されたディレクトリ直下のディレクトリ（ディレクトリ名＝'名前'）一覧を取得して、name2id関数に渡しました。

しかし、エラーが発生しました。
'''
in name2id
return cur.fetchone()[0]
TypeError: 'NoneType' object has no attribute 'getitem'
'''
つまり、検索に失敗しているという事のようです。
不可解なのが、
'''
select id from TABLE where 名前= '佐藤'
001
select id from TABLE where 名前= '田中'
002
select id from TABLE where 名前= '山田'
Traceback (most recent call last):
'''
という具合に、佐藤、田中は検索に成功しているにも関わらず、山田だけ検索に失敗します。

また、更に不可解なのが、

print name2id('山田')

と、os.listdir()を関わらせず、関数に直接クエリを投げた所、問題なく結果が表示されました。

文字コードなど色々と検討してみましたが、有用な解決策はついぞ発見できませんでした。
そこで、皆様に原因と解決策をご指導頂きたいと思います。
どうかよろしくお願いします。

Answer 1

解決策ではないですが、0x5C問題のような気はしますが…
どこかで0x5Cやその後ろのコードが増減している気がします。

解決できるかどうかはわかりませんが、気になるところとして、
executeに%で組み立ててしまった文字列を渡している気がしますが、プリペアードステートメントとして、第2引数を使うべきなのではないでしょうか？

Comments

[n2.arts]

TaMaMhyu様へ

ご指摘ありがとうございます。
関数を以下のように書き換えました。
def name2id(name):
query = u"select ID from TABLE where Name= ?"
cur.execute(query,(unicode(name,'utf8'),))
return cur.fetchone()[0]

しかし、同様のエラーが継続して発生している状態です。

文字コードの件に関して、解決の糸口になると思い実験してみました。
問題が発生している'あいだ'から始まる名前で、ユニコード文字列を確認した所、
name = [u'あいださくら']
name.append(unicode(os.listdir(Path)[24],'utf8'))
print name

結果
[u'\u3042\u3044\u3060\u3055\u304f\u3089',
u'\u3042\u3044\u305f\u3099\u3055\u304f\u3089']
このように、直打ちした場合と微妙に異なっています。

また、逆に、問題が発生しない'しいないおり'という名前を同様に確認した所
[u'\u3057\u3044\u306a\u3044\u304a\u308a',
u'\u3057\u3044\u306a\u3044\u304a\u308a']
となり、完全に一致しています。

というわけで、どうやら文字コードが原因である事は間違いないのですが、
それに関連してのご指摘はございますでしょうか？

[n2.arts]

追記ですが、
エラーを起こすディレクトリを眺めてみた所、
法則性がある事に気づきました。
それは「濁点、半濁点が入る名前」である事です。（最初の質問の山田はただの例ですので、、、この法則に一致しておりません。）
OSXがディレクトリ名に使用する文字コードがUTF8-MACである事に起因する問題かと思われます。

[TaMaMhyu]

成功するものと失敗するものの具体例を出していれば、すぐに解決できたのではないかと思います。

Answer 2

この問題に対する解決策が見つかりました。

（※質問に書いた山田は例なので、以下に当てはまりません）

原因
OSXでは、UTF8-MACという文字コードがディレクトリ名、ファイル名に適用されております。
UTF8-MACでは、濁点、半濁点などの取り扱いがUTF8と異なるため、
クエリに一致しませんでした。
（ちなみに、これは「Macの濁点問題」という通り名で、windowsとの互換性の観点から語られる事が多い、割とメジャーな問題らしいです。）

解決策
参考：http://ikeikeikeike.hatenablog.com/entry/2013/11/20/121930
import unicodedata

for Dir in os.listdir(Path):
if Dir!='.DS_Store':
Dir = unicodedata.normalize('NFC',unicode(Dir,'utf8'))
print name2id(Dir)

このように、unicode文字列を正規化する必要があるそうです。
書き換えた所（name2idではunicode文字列の変換を消去）正常に動作する事を確認しました。