Shogo's Blog

Jun 20, 2018 - 1 minute read - Comments - go golang

S3からファイルを落とすだけのツールを作った

S3からファイルを落とすだけのツールを作りました。

目的

流行りのCD(継続的デリバリー)を実践するために、専用のデプロイツールをダウンロードする目的で作りました。

主なデプロイ先はAWSなので、デプロイ操作には awscli が必要です。 しかしCDに使用しているCircleCIが公式に提供しているコンテナイメージにはawscliがインストールされていません。 もちろん apt-get install awscli であとからインストールすることは可能ですが、そのぶんジョブの実行時間が長くなってしまいます。 また、インストールされる awscli のバージョンが古く、ローカル環境ではうまく動くけど、 CircleCI上では最新の機能が使えず失敗するということがありました。

そこでもう awscli を使うことは諦めて、Goで AWS API を叩いてデプロイするバイナリを作ってしまうことを考えました。 Goであればシングルバイナリでインストール可能で、CI/CD環境とローカルでバージョンが一致せず悩まされることはありません。 また並行処理が得意なので、デプロイの時間短縮も図れます。

しかし、このデプロイ用のバイナリをどこに置くか・・・プロジェクト固有の処理が入っているので外部には公開したくない。 かといってプライベートなS3バケットに置くと、ダウンロードに awscli が必要になってしまう・・・。 awscli を使うのは諦めたはずでは・・・という、いわゆる「鶏が先か、卵が先か」問題に陥ってしまいました。

そこでS3からのダウンロードの処理に特化したミニawscliが欲しくなって作成したのが s3cli-mini です。

使い方

現状v0.0.1でサポートしているのは cp コマンドのみです。 S3バケットからファイルをダウンロードしたり、S3バケットへファイルをアップロードしたり、 別のS3バケットへファイルを転送することができます。

# download from a S3 bucket
s3cli-mini cp s3://your-bucket/foobar.zip .

# upload to a S3 bucket
s3cli-mini cp foobar.zip s3://your-bucket/

# copy the file from a S3 bucket to another S3 bucket.
s3cli-mini cp s3://your-bucket/foobar.zip s3://another-bucket/

一応サブコマンドを追加できるようにしましたが、今の所 cp コマンド以外の追加予定はありません。

aws-sdk-go-v2

これだけだと面白くないので、aws-sdk-go-v2 を使ってみました。 僕自身つい最近知ったのですが、昨年末に公開されたものです(AWS SDK for Go 2.0 Developer Preview)。 2018年6月20日現在の最新バージョンはv2.0.0-preview.4 (2018-05-25)とまだ正式リリース前ですが、 練習も兼ねて採用しました。

詳しい変更点は CHANGELOG を見てもらうとして、 今回楽になったと感じたのは ~/.aws/config を勝手に読んでくれることです。 これによりリージョンの指定などを省略することができます。 また、AssumeRoleも解釈してくれるので aswrap のような工夫が要らなくなります。

まとめ

AWS ムズカシイ