Shogo's Blog

たぶんプログラミングとかについて書いていくブログ

MeCabをPython3から使う(中間報告)

先日このようなツイートを見かけて、 「Python3になってGCの挙動変わったのかな?」と疑問に思ったので調査してみました。

Python3へのMeCabインストール

手元のPython3.4.3にMeCab Bindingをインストールします。 MeCabの公式(Google Codeサービス停止にともないgithub pageへ移行している模様)から落とせる Python BindingはPython2.x向けのため、setup.pyがそのままでは動きません。 Python3.xでは非互換な文法の変更が入ったので以下のように書き換える必要があります。

1
2
3
4
5
6
7
8
9
10
11
12
13
diff --git a/setup.py.org b/setup.py
index 4486cbb..657945a 100644
--- a/setup.py.org
+++ b/setup.py
@@ -7,7 +7,7 @@ def cmd1(str):
     return os.popen(str).readlines()[0][:-1]

 def cmd2(str):
-    return string.split (cmd1(str))
+    return cmd1(str).split()

 setup(name = "mecab-python",
        version = cmd1("mecab-config --version"),

あとは python setup.py install で入ります。

動かしてみる

以前書いた「MeCabをPythonから使う注意点とか」を見返しながら、 GCされて上手く動かない例 をPython3.4.3で動かしてみます。 文字列の扱いが変わったり、print文の扱いが変わったりしているので、その部分だけ書き換えが必要です。

1
2
3
4
5
6
7
8
9
10
11
12
import MeCab
tagger = MeCab.tagger('')
text = u'MeCabで遊んでみよう!'

node = tagger.parseToNode(text)
# Python2.x ではencode必須だったのが要らなくなった!
# node = tagger.parseToNode(text.encode('utf-8'))

while node:
    print(node.surface + '\t' + node.feature)
  # printは文ではなくなったのでカッコで囲う必要がある
  node = node.next

さて、動かしてみましょう。

1
2
3
4
5
6
7
8
9
BOS/EOS,*,*,*,*,*,*,*,*
名詞,一般,*,*,*,*,*
助詞,格助詞,一般,*,*,*,で,デ,デ
動詞,自立,*,*,五段・バ行,連用タ接続,遊ぶ,アソン,アソン
助詞,接続助詞,*,*,*,*,で,デ,デ
Traceback (most recent call last):
  File "m.py", line 10, in <module>
print( node.surface + '\t' + node.feature )
UnicodeDecodeError: 'utf-8' codec can't decode byte 0xa3 in position 1: invalid start byt

surfaceが全く読み取れていない・・・。 最後にはutf-8のデコードができず死んでしまっています。 全然変わってないじゃないか!

変わってないどころか、状況はさらに悪くなっています。 解決方法は以前の記事の通り「エンコード済みtext」を変数に保存・・・なのですが、 Python3.x(+SWIG)ではエンコードが自動的に行われてしまうので ユーザが「エンコード済みtext」にアクセスすることができません!

python3対応 Mecabの紹介SWIG 3.0.5で作りなおしたPR等を試してみましたが、 同様の症状でした。

まとめ

  • Python3.xでもPython2.xと同様で、元テキストがGCで回収されてしまう
  • Python3.xになって回避策が無くなった

ぱっと思いつく回避策は以下のような感じでしょうか・・・。

  • 諦めて parseToNode を使わず、parseの結果を頑張って解析する
  • SWIGの設定やC++側の書き方で頑張る(具体策は未調査)

インターフェースを変えずに後者の方法で何とかならないか、 引き続きいじってみようと思います。

追記(2015-12-20)

続報を書きました。

参考

Comments