「楽天クラウドオブジェクトストレージ」をファイルシステムとして直接マウントしてみた。

2020/11/16 13:04

朴建一
クラウドプラットフォーム技術部　クラウド基盤運用グループ

オブジェクトストレージのマウントツール

「楽天クラウドオブジェクトストレージ」は低価格、無制限で使えるデータ保全性に優れたサービスです。
次のようなインターフェースに対応しています。
・API（HTTPS）
・GUI：オブジェクトストレージポータル

オブジェクトストレージでは、データの読み書きをHTTP（RestAPI）ベースで行います。
アプリケーションからデータを読み書きする場合は、SDKを利用することも可能ですが、S3バケットをOSにマウントして使用することも期待されています。

今回はマウントツールに有名なs3fsと、GOLANGで開発されたgoofys、この2つのOpensourceを使い「楽天クラウドオブジェクトストレージ」を「楽天クラウドRed Hat OpenStack Platform」環境のインスタンス（仮想サーバー）上にマウントし、サーバーのディスクとして活用する方法をご紹介します。

環境

セキュリティキー証明書確認

「楽天クラウドオブジェクトストレージ」ポータルにアクセスします。
https://console.objectstorage.rakuten-cloud.net/
右上のUserID部分から、「セキュリティ証明書」をクリックします。

表示される画面より「アクセスキーID」と「シークレットキー」を確認しメモしておいてください。

s3fsの紹介

s3fs はFUSE（Filesystem in Userspace）（※）を利用してS3のバケットを Linux または Mac OS X 上にマウントさせるツールです
・s3fs-fuse/s3fs-fuse · GitHub： https://github.com/s3fs-fuse/s3fs-fuse

「楽天クラウドオブジェクトストレージ」をファイルシステムとして使うことができ、S3 APIを利用しなくてもファイルの入出力ができます。

※FUSE（Filesystem in Userspace）
Unix系コンピュータオペレーティングシステム用のソフトウェアインタフェースである。権限を持たないユーザーがカーネルコードを修正することなく独自のファイルシステムを作成できる機能を提供する。これは、ファイルシステムのコードをユーザー空間で実行することでなされるもので、その際FUSEモジュールは実際のカーネルインタフェースへの「橋渡し」しか提供しない。（参考:ウィキペディア - Filesystem in Userspace）

s3fsのインストール

必要パッケージをインストールします。

＃ yum install automake fuse fuse-devel gcc-c++ git libcurl-devel libxml2-devel make openssl-devel

s3fsをインストールします。

＃ yum install epel-release
＃ yum install s3fs-fuse

Version確認します。

＃ s3fs --version
Amazon Simple Storage Service File System V1.87 (commit:unknown) with OpenSSL
Copyright (C) 2010 Randy Rizun <rrizun@gmail.com>
License GPL2: GNU GPL version 2 <https://gnu.org/licenses/gpl.html>
This is free software: you are free to change and redistribute it.
There is NO WARRANTY, to the extent permitted by law.

まず、S3への接続に利用するパスワードファイルを作成します。

＃ echo "[access_key]:[secret_access_key]" > /etc/passwd-s3fs
＃ chmod 600 /etc/passwd-s3fs

※[access_key]:[secret_access_key]は上記「セキュリティ証明書」を参照します。

マウントするディレクトリを作成します。

＃ mkdir -p /s3fs

S3バケットを作成します。
「楽天クラウドオブジェクトストレージ」ポータルにアクセスします。
「新規バケット追加」をクリックし、例：「s3fs-bucket」と入力し、「作成」をクリックします。

マウントします。

＃ s3fs bucket[:/path] mountpoint [options]

↓記入例

＃ s3fs s3fs-bucket /s3fs -o allow_other,url=https://s3.jp3.objectstorage.rakuten-cloud.net,endpoint=jp3,passwd_file=/etc/passwd-s3fs

マウント確認

＃ df -Th
Filesystem     Type      Size  Used Avail Use% Mounted on
s3fs           fuse.s3fs  256T     0  256T   0% /s3fs

アンマウントします。

＃ umount /s3fs

OS起動時に自動マウントするため、/etc/fstabにエントリを追加します。

＃ vi /etc/fstab
s3fs#[bucket_name] [mountpass] fuse nonempty,allow_other,url=[endpoint],endpoint=[region],passwd_file=[上記作成したパスワードファイル] 0 0

↓追記例

s3fs#s3fs-bucket /s3fs fuse nonempty,allow_other,url=https://s3.jp3.objectstorage.rakuten-cloud.net,endpoint=jp3,passwd_file=/etc/passwd-s3fs 0 0

＃ mount -a

オプションの説明

マウントを確認します。

＃ df -Th	
Filesystem     Type       Size  Used Avail Use% Mounted on
…
s3fs           fuse.s3fs  256T     0  256T   0% /s3fs
…

テストファイルを作成します。

＃ touch s3fs_test.txt
＃ ll
total 0
-rw-rw-rw- 1 root root 0 Nov 02 12:24 s3fs_test.txt

「楽天クラウドオブジェクトストレージ」ポータルからファイルの作成を確認します。

s3fs動作確認

ファイル作成します。

＃ cd /s3fs
＃ i=1; time while [ $i -le 500 ]
> do
> touch s3fs_test_$i > /dev/null 2>&1
> i=$((i+1))
> done
real    0m36.314s
user    0m0.634s
sys     0m1.341s

ファイル一覧表示します。

＃ time ls -laR /s3fs > /dev/null
real    0m0.115s
user    0m0.005s
sys     0m0.019s

ddコマンドでファイル作成します。

＃ cd /s3fs
＃ dd if=/dev/zero of=ddtest bs=1M count=1000
1000+0 records in
1000+0 records out
1048576000 bytes (1.0 GB) copied, 17.0114 s, 61.6 MB/s

CPコマンド実行し、1Gbファイルをローカルへダウンロードします。

＃ time cp /s3fs/ddtest /ddtest_s3fs_download > /dev/null
real    0m11.152s
user    0m0.037s
sys     0m1.535s

CPコマンド実行し、1Gbファイルをローカルからアップロードします。

＃ time cp /ddtest_s3fs_download /s3fs/ddtest_upload > /dev/null
real    0m15.713s
user    0m0.022s
sys     0m1.105s

これで動作確認は完了しました。

goofysの紹介

goofysではs3fsと同じく、「楽天クラウドオブジェクトストレージ」をファイルシステムとしてマウントすることができます。パフォーマンスを優先し、ディスク上のデータキャッシュ（checkout catfs）を持たない特徴があります。
また、s3fsよりもパフォーマンスが優れているとされていますが、ファイルコピーは早い一方で、ファイルの編集ができないなど、s3fsよりもPOSIX互換性は落ちるため、使用できるコマンドは少ないです。
・GitHub - kahing/goofys: a Filey System for Amazon S3 written in Go： https://github.com/kahing/goofys

goofysのインストール

まず、関連ツールをインストールします。

＃ yum install golang fuse git

go 環境設定を行います。
workspace作成

＃ mkdir -p /usr/local/golang

環境変数設定し反映

＃ vi ~/.bash_profile
以下を追記
export GOROOT=/usr/lib/golang
export GOBIN=$GOROOT/bin
export GOPATH=/usr/local/golang
export PATH=$PATH:$GOROOT/bin
＃ source ~/.bash_profile

変数確認

＃ go env
GOBIN="/usr/lib/golang/bin"
GOPATH="/usr/local/golang"
GOROOT="/usr/lib/golang"

goofysインストール

＃ go get github.com/kahing/goofys
＃ go install github.com/kahing/goofys