時間軸検索に最適化したスケールアウト可能な高速ログ検索エンジンの実現と評価

阿部博, 島慶一, 宮本大輔, 関谷勇司… - 情報処理学会 …, 2019 - ipsj.ixsq.nii.ac.jp
阿部博, 島慶一, 宮本大輔, 関谷勇司, 石原知洋, 岡田和也, 中村遼, 松浦知史, 篠田陽一
情報処理学会論文誌, 2019ipsj.ixsq.nii.ac.jp
論文抄録 ネットワークのトラブルシューティングやセキュリティインシデントに対応するため,
ネットワーク管理者はサーバやネットワーク, セキュリティ機器から出力されるログを蓄積しておき,
トラブルの原因を特定するためにその内容を調査することがある. 大規模なネットワークでは,
出力されるログの量も多く蓄積・検索システムの規模も巨大化する. 著者らは,
大量に出力される機器のログを後のトラブル解決などで重要となる時間軸を考慮した手法で蓄積し,
高速に検索する先行技術として Hayabusa を実装した. 本研究では, Hayabusa …
論文抄録
ネットワークのトラブルシューティングやセキュリティインシデントに対応するため, ネットワーク管理者はサーバやネットワーク, セキュリティ機器から出力されるログを蓄積しておき, トラブルの原因を特定するためにその内容を調査することがある. 大規模なネットワークでは, 出力されるログの量も多く蓄積・検索システムの規模も巨大化する. 著者らは, 大量に出力される機器のログを後のトラブル解決などで重要となる時間軸を考慮した手法で蓄積し, 高速に検索する先行技術として Hayabusa を実装した. 本研究では, Hayabusa の検索性能をスケールアウトさせるためのシンプルな分散システムを提案し, その性能を評価した. 評価の結果, 提案手法は 10 台かつ複数 Worker での分散環境にスケールアウトした状態でスタンドアロン環境での Hayabusa より約 36 倍高速に動作した. これは 144 億レコードの syslog メッセージを約 6 秒で全文検索可能な速度に相当し, 実用上十分な速度といえる.
ipsj.ixsq.nii.ac.jp
Showing the best result for this search. See all results