steelwool_oxide

Steel Room 2nd

Hadoop

18 12月

「マーケティングテクノロジーの最先端を支える技術を大公開!」で発表してきました

こんにちは、スチールです。

先日マーケティングテクノロジーの最先端を支える技術を大公開!というイベントに登壇しまして、「フリークアウトにおける大規模データの取り扱いのこれまでとこれから」という発表をしました。

スライドはこちらです

なお、イベントのパーフェクトなメモをhirataraさんのblogにありますのでぜひ御覧ください!

簡単に書いておきますと、

フリークアウトで大規模なデータというと

  • オーディエンス情報
  • 配信ログ

があります。

オーディエンス情報は50msの中で瞬時に取得できる必要があるので色々な制約がある中増えゆくデータに対してどう対処して、今後どうしていきたいかという話です。

配信ログは、hadoopクラスタを約1年半運用してきてだいぶ安定してきた中で、こちらもどうしていきたいかという話を中心に話しました。

今年の5月にfluentd meetupで話した内容からちょろっとアップデートがあるのでその辺と比較して見ていただけると幸いです。

また、スライド内でも言及してますが、CDHを4から5にアップグレードする際にCloudera Managerを導入する話をアドベントカレンダーに書きましたので、よかったら見てみてください(宣伝)

ちなみに、イベントページだと「歴史と今後」としてましたが、なんかもうちょい柔らかいタイトルにしたくて少し変更しました。

ではでは。

12 12月

Spark, SQL on Hadoop etc. Advent Calendarの12日目を書きました

Spark, SQL on Hadoop etc. Advent Calendar 2014の12日目の担当でした。
本ブログに書こうかと思ったけどQiitaに書きました。

ごらんください。

稼働中のCDHクラスタからCloudra Managerに移行した話 
14 12月

hueでロードバランシングできるようにしてみる

hue-logo

スチールです。この記事はHadoop Advent Calendar 2013の14日目の記事です。
13日目の記事はkmizumarさんの「cdh-twitter-exampleで遊ぶ」です。

さて今回はhueについて、ちょろっと手を加えてみたのでそちらについてまとめてみます。
hueはHadoop運用してる方にはおなじみだと思われる、WebのUIでHadoopが使えるというプロダクトです。
職場でも、運用には参加していないメンバーがhiveやImpalaを中心にこのhueを通して集計作業をしています。

そのhueのHAを組む記事が「High Availability of Hue」にあるので、そちらを元に環境構築の検証をしていたのですが、記事内のHA Proxyの設定に 
When the balance parameter is set to source, a client is guaranteed to communicate with the same server every time it makes a request. If the server the client is communicating with goes down, the request will automatically be sent to another active server. This is necessary because Hue stores session information in process memory.
とあったので、 キャッシュをmemcachedにすればラウンドロビンとかでもできるんじゃないかなと思って改造を考え出した次第です。

hueのソースはgithubにてclouderaが公開しています。https://github.com/cloudera/hue
ソースをちょろっと見ればすぐわかるのですが、hueはpythonのdjangoで開発されていますので、 djangoを触ったことがあれば大体検討がつくんではないかと思います。(自分は0.9系のずいぶん前にちょろっとさわったくらいでした)
今運用しているhueのバージョンが2.5なので、djangoは1.2系です。
(hue3はdjango1.4にverupしている模様)

hueのソース構成は、desktop以下がコアとなっていて、hue上に展開されるhiveやImpala、hbaseのアプリがapps以下に展開されています。今回いじるのはdesktop以下です。

最終的にrpmにして再利用しやすいようにビルドしたかったので、clouderaからhueのSRPMを持ってきてそちらをビルドしました。

変更点は下記です。

ざっくりと変更展の説明を。
まず、インストール後にhue自体のソースを変更するのは見通しが悪くなるため、hue.iniにcacheという項目で設定変更できるようにしました。
で、その設定はdesktop/core/src/desktop/conf.pyで読み込まれるため、そこにCACHEという項目を追加。
defaultの値は、hueがdjango自体のglobal_settings.pyの値をそのまま使用しているためそこに準拠しました。
最後に、djangoアプリとしてのhueに反映させるため、desktop/core/src/desktop/settings.pyに各設定を上書きできるようにします。

実際にインストールしたあとは、hue.iniのcacheのbackendを
backend=memcached://example.local:11211
なんて設定すればOKです。 key_prefixはお好みで。 衝突する可能性があるなら何か入れておいた方がよいかもしれません。

手元の環境ではpythonのmemcachedクライアントがなかったのでpython-memcachedをpipなんかでインストールする必要があるのですが、それもrpmbuildする際に組み込まれるようにしました。
こちらはpypiから(https://pypi.python.org/pypi/python-memcached/)ソースをダウンロードしてきて展開しました。 
tar.gzの展開先は、hueのdesktop/core/ext-py/以下に展開するだけでOKです。
展開した後のライブラリ群はこんな感じになると思います。
# ls -la rpmbuild/SOURCES/hue-2.5.0-cdh4.4.0/desktop/core/ext-py/
合計 172                                                                        
drwxr-xr-x 43 nn nn 4096 12月 14 15:08 2013 .
drwxr-xr-x  5 nn nn 4096  9月  4 12:44 2013 ..
drwxr-xr-x  6 nn nn 4096  9月  4 12:44 2013 Babel-0.9.6
drwxr-xr-x  3 nn nn 4096  9月  4 12:44 2013 BabelDjango-0.2.2
drwxr-xr-x  7 nn nn 4096  9月  4 12:44 2013 Django-1.2.3
drwxr-xr-x  7 nn nn 4096  9月  4 12:44 2013 Mako-0.7.2
drwxr-xr-x  3 nn nn 4096  9月  4 12:44 2013 MarkupSafe-0.9.3
drwxr-xr-x  5 nn nn 4096  9月  4 12:44 2013 MySQL-python-1.2.3c1
drwxr-xr-x  5 nn nn 4096  9月  4 12:44 2013 Paste-1.7.2
drwxr-xr-x  7 nn nn 4096  9月  4 12:44 2013 PyYAML-3.09
drwxr-xr-x  6 nn nn 4096  9月  4 12:44 2013 Pygments-1.3.1
drwxr-xr-x  4 nn nn 4096  9月  4 12:44 2013 Spawning-0.9.6
drwxr-xr-x  4 nn nn 4096  9月  4 12:44 2013 avro-1.5.0
drwxr-xr-x  3 nn nn 4096  9月  4 12:44 2013 configobj
drwxr-xr-x  6 nn nn 4096  9月  4 12:44 2013 ctypes-1.0.2
drwxr-xr-x  4 nn nn 4096  9月  4 12:44 2013 django-auth-ldap-1.0.7
drwxr-xr-x  3 nn nn 4096  9月  4 12:44 2013 django-extensions-0.5
drwxr-xr-x  3 nn nn 4096  9月  4 12:44 2013 django-moxy
drwxr-xr-x  3 nn nn 4096  9月  4 12:44 2013 django_nose
drwxr-xr-x  5 nn nn 4096  9月  4 12:44 2013 elementtree
drwxr-xr-x  3 nn nn 4096  9月  4 12:44 2013 enum-0.4.4
drwxr-xr-x  6 nn nn 4096  9月  4 12:44 2013 eventlet-0.9.14
drwxr-xr-x  6 nn nn 4096  9月  4 12:44 2013 greenlet-0.3.1
drwxr-xr-x  4 nn nn 4096  9月  4 12:44 2013 httplib2-0.8
drwxr-xr-x  5 nn nn 4096  9月  4 12:44 2013 kerberos-1.1.1
drwxr-xr-x  3 nn nn 4096  9月  4 12:44 2013 lockfile
drwxr-xr-x  8 nn nn 4096  9月  4 12:44 2013 lxml
drwxr-xr-x  7 nn nn 4096  9月  4 12:44 2013 markdown
drwxr-xr-x  2 nn nn 4096  9月  4 12:44 2013 pam
drwxr-xr-x  6 nn nn 4096  9月  4 12:44 2013 pyopenssl
drwxr-xr-x  5 nn nn 4096  9月  4 12:44 2013 pysqlite
drwxr-xr-x  4 nn nn 4096  9月  4 12:44 2013 python-daemon
drwxr-xr-x  7 nn nn 4096  9月  4 12:44 2013 python-ldap-2.3.13
drwxrwxr-x  3 nn nn 4096  6月  8 02:14 2013 python-memcached-1.53  #追加されたやつ
drwxr-xr-x  6 nn nn 4096  9月  4 12:44 2013 python-oauth2
drwxr-xr-x  5 nn nn 4096  9月  4 12:44 2013 pytidylib-0.2.1
drwxr-xr-x  3 nn nn 4096  9月  4 12:44 2013 sasl-0.1.1
drwxr-xr-x  5 nn nn 4096  9月  4 12:44 2013 simplejson
drwxr-xr-x  4 nn nn 4096  9月  4 12:44 2013 south
drwxr-xr-x  4 nn nn 4096  9月  4 12:44 2013 ssl-1.15
drwxr-xr-x  2 nn nn 4096  9月  4 12:44 2013 threadframe-0.2
drwxr-xr-x  3 nn nn 4096  9月  4 12:44 2013 thrift
drwxr-xr-x  2 nn nn 4096  9月  4 12:44 2013 urllib2_kerberos-0.1.6
以上の変更をしたあと、rpmbuildを行います。自分の環境だとJDK1.7環境だったため、hue-2.5.0-cdh4.4.0/maven/pom.xmlのjavaVersionとtargetJavaVersionを1.7にしてビルドしました。
なお、ビルドにはmavenといくつか依存関係があるので、hue2.5.0のドキュメントのHue Dependenciesを参考にインストールしておいてください。

長くなってきたので、ここでSRPMのダウンロードからビルドするところまでの流れを書いてみます。
# wget "http://archive.cloudera.com/cdh4/redhat/6/x86_64/cdh/4.4.0/SRPMS/hue-2.5.0+139-1.cdh4.4.0.p0.70.src.rpm"
# rpm -ivh hue-2.5.0+139-1.cdh4.4.0.p0.70.src.rpm
# cd rpmbuild/SOURCES/
# tar xzvf hue-2.5.0-cdh4.4.0.tar.gz
上記gistのdiffのパッチをあてるか編集する
# cd rpmbuild/SOURCES/hue-2.5.0-cdh4.4.0/desktop/core/ext-py/
# wget "https://pypi.python.org/packages/source/p/python-memcached/python-memcached-1.53.tar.gz" --no-check-certificate
# tar xzvf python-memcached-1.53.tar.gz
# rm python-memcached-1.53.tar.gz 
jdkによってはpom.xmlを編集
# cd rpmbuild/SOURCES/
# rm hue-2.5.0-cdh4.4.0.tar.gz
# tar czvf hue-2.5.0-cdh4.4.0.tar.gz hue-2.5.0-cdh4.4.0
# rm -rf hue-2.5.0-cdh4.4.0
# cd rpmbuild
# /usr/bin/rpmbuild -ba SPECS/hue.spec
これでできたrpmをインストールすればめでたく改造版hueのインストール完了です。

インストール後、hueは標準でsqliteを利用しているため、複数のhueから参照できるようにmysqlやpostgresqlにsyncする必要があります。

syncの手順もhueのドキュメントの「5.3. The Hue Database」にありますので、その手順に従ってください。
ただこちらにもハマリどころがありまして、mysql5.6を使用していると、hueがtext型にdefault値を設定している部分があり、
BLOB/TEXT column 'hoge' can't have a default value
といったエラーでsyncdbがうまく動きません。参考→ MySQL5.6で今までのVerでは問題無かったSQL文がエラーになった場合の対処法

これについては、my.cnfに
sql_mode=''
と設定してあげるのが(共存している他のdbに影響がなければ)一番手っ取り早いです。 
共存したdbに置くためmysqlの再起動がしづらい環境だったり、sql_modeを変えるのが厳しい場合は(自分の場合は共存してるdbをあまり止めたくなかった)、migrationのファイルを変えてあげればなんとかなります。
hueはsouthというmigrationツールを使っているのですが、southが生成するファイルに手を加える形になります。
text型にalterする部分を消去したりして対応したのですが、ホントにこれでいいのかはまだ未検証です(一応動いている様子)
あまり自信は無いのでgistのリンクだけ貼っておきます→こちら

ここまで終えて、「High Availability of Hue」にあるHA proxyの設定のbalanceをroundrobinにしても無事に動いています。
ただ、beeswaxサーバーのホストは1つ選んで指定してあげないとうまくhueからhiveクエリを投げられないので若干片手落ち感はあります。その辺の課題は今後という事で。

以上、hadoopというより、djangoの話になっちゃったような気がしますが、hadoop advent calendar14日目の記事でした。

明日の15日目は@hishidamaさんです。お楽しみに! 

30 11月

Hadoop オペレーションを買ってみました



スチールです。11/27に待望のHadoop オペレーションが発売されたのでさっそくぱらぱらと読んでみました。
オライリーの紹介文に

本書はHadoopの管理と運用に焦点を当てた本です。Hadoopのクラスタ計画から、認証、リソース管理、またクラスタのメンテナンス、モニタリング、バックアップとリカバリなど、Hadoopを使う際に必要なトピックについて網羅しています。

とあるように、 管理と運用に焦点があたっておりますが、1~5章は実際に構築、運用する前に読んでおきたい内容がたっぷり書いてあります。本書が出る前だとインストールなんかは、Hadoop徹底入門が鉄板かなーという感じでしたが、これから構築したりなんて方はHadoop オペレーション(特に4章 Hadoopクラスタの計画)も読んでおきたい感じです。

個人的には現状絶賛運用中なので10章のモニタリングとか読んでおきたい感じで、余裕のあるときに9章のトラブルシューティングとか目を通していざというときに備えておきたいと思います。

付録Aのプロパティ一覧は、あれこれ調べてる時なんかに、非推奨前のプロパティ名行き当たって、さて現環境だとどうなんだという際にうれしいですね。(Hadoop公式にもあるけど)

付録B、C、Dは日本語版に新たに追加された項目で、Cloudera Managerの紹介と、Hueの紹介、そしてNameNode HAのアーキテクチャと動作の詳細です。特に付録Dは勉強になりました。付録B読むとCloudera Manager欲しくなります、はい。
付録CのHueはすでに導入しておりますが、大変便利に使っております。まだフルに使いこなせてない感じですが。

そんなわけで、後半6章以降は辞書的に使っていきたいので、象本とかより分厚くはないですがカジュアルに持ち運ぶには重たいのでPDF版の登場が待たれます。
(象本第三版はちょっと前にPDF版出ましたね!)

象本、徹底入門に続いて、Hadoopを運用する人はぜひ職場やおうちに揃えておきたい一冊です。

13 11月

Cloudera World Tokyo 2013にいってきました

0dc2fae4.g

だいぶ日がたってしまったのですが、先週木曜の11月7日、Cloudera World Tokyo 2013に行ってきました。
写真はお土産のClouderaカステラ。

僕が聞いてきたセッションは以下です。(全セッションはこちら。講演資料も一部リンクあるようです)
  • CDH最新情報
  • Hadoopデータプラットフォーム
  • SQLで実現するバッチ処理とストリーム処理
  • Hadoopの運用
  • Hadoop コミュニティと YARN の現状
とまぁ、Clouderaの中の人のセッションを半分以上選びました。
というのもCDH5がどうなるのかなぁというのがすごく気になっていたので。

一つ一つのセッション書くのはつらいのでざっくりと。

CDH 5はHadoop 2.2も出たということで、やっとYARNが「製品レベル」 になりました。
(製品レベルになる前になんでCDH 4に入っていたんだろうって感じではあるんですが)
Resouce ManagerのHAはもちろん大注目なんですが、ImpalaもResouce Manager上で管理できるようになったりと、Cloudera自体もかなりYARNに本腰入れてきた感じがします。

一応職場の環境でもImpalaは利用しているんですが、ちょっとはしゃいだ感じのクエリを投げるとMapReduceなタスクとリソース食い合って、監視しているGangliaが真っ赤に染まってこっちの顔は真っ青になるなんてことがあったんですが、これが解消されるだろうというのはとても大きいです。

今のところCDH 5はβ1ということなんですが、早めに開発環境の方でアップデートの手順を整えてもいいかななんてチームでは話しておりまして、採用する気満々な感じです。

また、Clouderaさん一推しのCloudera Managerなんですが、これは話を聞けば聞くほど使ってみたい感じがしますね。ちなみに無料版のStandardがあるので、試しに開発環境で使ってみたことあるんですが、確かに構築がめちゃくちゃ簡単です。
Cloudera Managerを使うと基本的にすべての運用がManager経由になって、設定ファイルの場所が通常と違うパスに置かれて管理されるみたいでManager外から他のツールを組み合わせて運用しようとするとちょっとつらくなるかなという感想です。もともと日頃の運用はpuppetやcapistranoなんかで構築済みだったため、Standardであれば、今の環境でもいいかなぁということで、お試しで終わった感じです。

ただ、Enterprise版だと話は違って、Clouderaのノウハウがぐっと詰まった感じで、これさえ入れればOKな感じがやばいです。一発でアップデート、一発で前のバージョンにロールバックとかパないですね。 あと監査機能とか、リソース制限の管理も大変便利そうです。
おいくらするのか気になります。

ちなみに去年は参加していないので、去年がどういう空気感だったかわからないんですが、今年のセッションを聞いていて思ったのは、一部の分析担当、ログ担当だけが、構築されたクラスタのデータにさわるのではなく、多くの人がデータに触れて、活用していくかにものすごいスポットがあたっていたような気がしました。
(嶋内さんの第二セッションの話がまさにそんなかんじでしたが)

tagomoris氏のNorikraとか見てるとSQLを通じて、みんながデータに触れられるようにするプラットフォームを構築するような話でしたし、Impala推しな感じとかもそういうことなんでしょうね。スポンサーコーナーでちょっとみせてもらったTableauも、SQLではないですが、アプローチとしては同じような感じでしょうか。
そして、データを安全にさわれるようにリソース管理や認証、監査の強化があると(SentryとかHueとか、そしてCloudera Manager)。
参加したセッションの裏で、Yahoo Japanのセッションもそういう話だったみたいですね。

そういえば去年くらいに同僚のやなしーが「経営者もSQL書けないとオワコン」とかそんな感じのこと言ってたなぁなんて言うのを思い出し、本格的に環境整ってきたんだなと改めて思ったり。

一応、社内でもHueからHiveやImpalaさわれるような環境は構築してるんですが、 LDAP認証をつけたくらいで、リソース管理も甘いので、本格的にガンガン使われると落ちるかもというまだまだなステータスなので、運用者としてはみんなが使えるっていうレベルまでまず持って行かないといかんですね。
六本木ではたらくエンジニア
スポンサードリンク
スポンサードリンク
  • ライブドアブログ