Bitbucketを使ったリモートリポジトリによるソース同期の運用メモ

いままでローカルでソース管理してたけどいい加減Gitに以降したかったので無料でプライベートリポジトリ作り放題なBitbucketを使いました。

リモートリポジトリだけだと心許ないので、ローカルのファイルサーバにも定期的にバックアップをとっています。

Web01、Web02、WebTest（開発機）といった冗長構成でいくつかのWebサービスを運用しています。

Webサーバの前にはL7スイッチ、さらのその前にはL4スイッチがあります。

Webサーバの後ろにはいくつかのDBサーバ群があります。

L7スイッチを噛ませると運用がすごく楽になるのでオススメです。

個人的にVarnishが好みです。そのままキャッシュサーバにもなるし、C言語ライクな設定ファイルが分かりやすいです。

WebTestはクライアントには公開されませんが、基本的にはWebサーバ群と同じ構成になっているのでWebサーバ障害発生時には公開サーバになります。

・開発からコミットまで

WebTestで色々開発、テストを行います。

IDEはWindowsのNetbeansを使っています。

WebTestにはSambaを立たせており、NetBeansから直接ファイルをいじっています。

ソースを編集したらコミット、Bitbucketのリモートリポジトリにプッシュ、

Web01、Web02からフェッチで完了。

ソースが同期されるまでの微妙な時間差はL7スイッチで適当に切り替えつつ。といった感じです。

MySQL5.7.2 Multi-source Replicationのバグ

負荷分散ではなく、複数のDBサーバの非同期レプリケーションをバックアップとして運用するテストをしていました。http://www.mysqlperformanceblog.com/2013/10/02/mysql-5-7-multi-source-replication/

が、

レプリケーション側(MySQL 5.7 Multi-source Replication)のユーザ権限が付与出来ませんでした。
なにをやってもperformance_schemaにテーブル作成ができないのです。

かなりハマったのですが、結局MySQLフォーラムにバグ報告がされていました。
MySQL6.0から修正されるようです。

labsなので文句言えませんが、意外な盲点でした。

仕方なくMySQL5.7.2でmysqld_multiで複数のDBサーバのレプリケーション構成にして同じ様な構成をとりましたが、マルチソースレプリケーションでスマートに行きたかったところです。

[MySQL on ZFS]CentOS6.5にZFSプールを作ってZFSファイルシステムにMySQL5.7のデータをぶっこんだ話

時間を見つけてはちょくちょく作業してLVSとvarnishでL4+L7な冗長ロードバランサ構成を組みました。

Webサーバは複数構成で冗長化しているのですが、DBサーバはサービス毎に物理的にマスターサーバを一台ずつ設置しています。

当然LVSと組み合わせて冗長化したいところですが、サーバを置く場所が無いのと資金がありません。

仕方ないのでデータのリアルタイムバックアップのみ実現させます。

(KeepAlivedを使ったMｙSQLの高可用性のあるサーバ構築方法は下記のサイトが大変参考になります)

http://dev.tapweb.co.jp/2011/01/325

まず、適当にサーバを一台作ってMySQL5.7を導入し、マルチソースレプリケーション機能で、各マスターDBサーバのレプリケーションサーバとします。

このレプリケーションにはクライアントから一切クエリが飛んできません。

単純に、マスターDBサーバのバックアップのみに使用します。

機能を限定することでITXベアボーンで十分実現可能です。

MySQL5.7からのマルチソースレプリケーション機能により複数DBサーバのレプリケーションになれます。

今回は、以前NAS用としてZFSで組んだファイルサーバがあったのでそれを利用しました。

ZFSの耐久性は魅力的なのでMySQL5.7のdatadirをZFSのファイルシステム上に設定します。

ここで問題なのが、innodbは非同期IOをサポートしますが、ZFS上では使えません。

innodb_use_native_aio=0のように設定すれば旧来のIOを使うのでZFSでも動作します。

しかし、MySQLをインストールするときにmy.cnfを読んでくれないのでインストールに失敗します。

そんな時は、

mysql_install_db --no-defaults --force --innodb_use_native_aio=0 --datadir=/zfs/mysql

のようなコマンドでデータベースを初期化します。

ZFS上にMySQLを配置するのって意外と需要ないのかもしれません。

解決を模索すること数時間、結構ハマってしまいました。