Shogo's Blog

たぶんプログラミングとかについて書いていくブログ

AWS Lambda で MeCab を動かす(改)

MeCabのPythonバインディングをいじってた関係で、MeCabについてインターネットをさまよっていたら、 AWS Lambda で MeCab を動かすという記事を見つけました。 Lambdaの計算リソースで形態素解析できるのは楽しいですねー。 ただ実装にまだまだ改善できそうな部分があったので修正してみました。

問題点

第一に「外部プロセスを起動しているので遅い」という点です。 外部プロセスの起動は非常に重くて数百msかかります。 MeCabは非常に高速で数msもあれば解析が終わるのに、もったいないですよね。

第二に「OSコマンドインジェクションの危険性がある」という点です。 解析対象の文字列をコマンドライン引数として渡しており、この際シェルを経由しています。 そのため、{"sentence": "$(ls)"}のような文字列を渡すと、シェルがコマンドとして実行してしまいます。 API Gatewayなどで外部に公開した場合、第三者が何でもし放題な状態になってしまいます。

頑張ってMeCabをライブラリとして呼ぶ

全ての元凶は外部プロセス起動にあるので、頑張ってMeCabをライブラリとして呼んでみましょう。 そもそもなんで外部プロセス起動をしていたかというと、 LD_LIBRARY_PATHが正しく設定されていないためimport MeCab時にlibmecab.soを発見できないからです。 なんとかならないものかと探したところ、Stack Overflowにそれっぽい記事がありました。

「環境変数を設定してから自分自身をexecし直す方法」と「ctypesを使って絶対パス指定で読み込む方法」が紹介されています。 前者の方がvoteは多いですがLambdaでこれをやるのは大変そうなので、後者で試してみます。

lambda_function.py
1
2
3
4
5
# preload libmecab
import os
import ctypes
libdir = os.path.join(os.getcwd(), 'local', 'lib')
libmecab = ctypes.cdll.LoadLibrary(os.path.join(libdir, 'libmecab.so'))

一度読み込んでしまったライブラリは再利用されるため、 import MeCabはここで読み込んだライブラリにリンクされます(importの順番が重要なの闇な感じがする)。 LD_LIBRARY_PATHが正しく設定されている必要はありません。

さて、これでlambda_function.pytokenizer.pyが分かれている必要がなくなったので、二つを合体してみましょう。

lambda_function.py
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
# coding=utf-8
import os
import settings

import logging
logger = logging.getLogger(__name__)
logger.setLevel(settings.LOG_LEVEL)

# preload libmecab
import ctypes
libdir = os.path.join(os.getcwd(), 'local', 'lib')
libmecab = ctypes.cdll.LoadLibrary(os.path.join(libdir, 'libmecab.so'))

import MeCab

# prepare Tagger
dicdir = os.path.join(os.getcwd(), 'local', 'lib', 'mecab', 'dic', 'ipadic')
rcfile = os.path.join(os.getcwd(), 'local', 'etc', 'mecabrc')
default_tagger = MeCab.Tagger("-d{} -r{}".format(dicdir, rcfile))
unk_tagger = MeCab.Tagger("-d{} -r{} --unk-feature 未知語,*,*,*,*,*,*,*,*".format(dicdir, rcfile))

DEFAULT_STOPTAGS = ['BOS/EOS']

def lambda_handler(event, context):
    sentence = event.get('sentence', '').encode('utf-8')
    stoptags = event.get('stoptags', '').encode('utf-8').split(',') + DEFAULT_STOPTAGS
    unk_feature = event.get('unk_feature', False)

    tokens = []
    tagger = unk_tagger if unk_feature else default_tagger
    node = tagger.parseToNode(sentence)
    while node:
        feature = node.feature + ',*,*'
        part_of_speech = get_part_of_speech(feature)
        reading = get_reading(feature)
        base_form = get_base_form(feature)
        token = {
            "surface": node.surface.decode('utf-8'),
            "feature": node.feature.decode('utf-8'),
            "pos": part_of_speech.decode('utf-8'),
            "reading": reading.decode('utf-8'),
            "baseform": base_form.decode('utf-8'),
            "stat": node.stat,
        }

        if part_of_speech not in stoptags:
            tokens.append(token)
        node = node.next
    return {"tokens": tokens}

def get_part_of_speech(feature):
    return '-'.join([v for v in feature.split(',')[:4] if v != '*'])

def get_reading(feature):
    return feature.split(',')[7]

def get_base_form(feature):
    return feature.split(',')[6]

試してみる

forkして上記の修正をいれたレポジトリを用意したので、READMEにしたがってzipファイルを作り、Lambdaに登録しましょう。 雑なテストですが、Testボタンを5回押しみてログを見てみました。

まずは元記事にあったオリジナルのコードから。

Duration Billing Duration Memory Size Max Memory Used
280.76 ms 300 ms 128 MB 29 MB
310.00 ms 400 ms 128 MB 29 MB
205.99 ms 300 ms 128 MB 30 MB
205.74 ms 300 ms 128 MB 30 MB
213.96 ms 300 ms 128 MB 30 MB

外部プロセスを起動しないように修正したバージョンです。

Duration Billing Duration Memory Size Max Memory Used
0.74 ms 100 ms 128 MB 11 MB
0.74 ms 100 ms 128 MB 11 MB
0.70 ms 100 ms 128 MB 11 MB
0.69 ms 100 ms 128 MB 11 MB
0.73 ms 100 ms 128 MB 11 MB

速くなった!!!

まとめ

  • AWS Lambdaでは外部プロセス起動は案外重たいのでなるべく避ける
  • 深遠な理由により外部プロセス起動する場合でもシェルは使わない方が無難
  • LD_LIBRARY_PATHの設定が必要なときは、ctypes.cdll.LoadLibraryを使って直接読みこめばなんとかなる

外部ライブラリを読み込めるのは、いろいろ遊べそうですね・・・

追記(2016-02-15)

pullreq送って取り込んでもらいました。

Comments