Recsys2014 recruit

7
Recsys勉強会2014 Gradient boos4ng factoriza4on machines 坪坂正志 [email protected]

description

Recsys 2014勉強会資料

Transcript of Recsys2014 recruit

Page 1: Recsys2014 recruit

Recsys勉強会2014  Gradient  boos4ng  factoriza4on  machines

坪坂正志  [email protected]  

Page 2: Recsys2014 recruit

Context-­‐aware  recommenda4on

•  Tradi4onal  recommenda4on  – ユーザとアイテムのレーティング情報が与えられ

た状況でユーザとアイテムの対に対してレーティングを予測するような関数を学習する  

– 代表的な手法にMatrix  factoriza4onがある  

•  Context-­‐aware  recommenda4on  – ユーザとアイテムだけではなく、ユーザのムード

や休日かどうかなどレコメンドのときのcontextも考慮してレコメンドを行う

Page 3: Recsys2014 recruit

Factoriza4on  machine •  Matrix  factoriza4onなどfactoriza4onの手法を一般化した

手法  –  KDD  Cup  2012でSNSでのつながり予測や広告のCTR予測など実

際的なタスクに対しても高い精度を達成している  –  Rendle,  Social  networks  and  click-­‐through  predic4on  with  factoriza4on  machines,  KDDCUP  2012  

•  扱うデータはカテゴリ変数を考え、ベクトルで表現する  –  例えばユーザが{U1,U2,U3},アイテムが{I1,I2,I3,I4},ムードが{happy,normal,sad}の場合  

–  U1にI2をムードがhappyなときに推薦する状況ではベクトル表現としては(1,0,0,    0,1,0,0,  1,0,0)のように表現する  

•  特徴量からの予測において二次の項まで考慮する  –  上の例に置いてはU1*I2,  U1*happy,  I2  *  happyの三つの相互

作用について重みを計算する  

yi =

Page 4: Recsys2014 recruit

Factoriza4on  machine

•  二次の相互作用をそのまますべて重みを求めようとするとパラメータの数が膨大になる  

•  このため二次の相互作用項w_ijをk次元ベクトルの内積で近似する  –  n  *  nの変数の代わりにn*kの変数を利用する

Rendle,  Factoriza4on  machine,  ICDM  2010より

Page 5: Recsys2014 recruit

Gradient  boos4ng  factoriza4on  machine

•  Factoriza4on  machineは相互作用を表現する上では強力な手法ではあるが、あまり予測に寄与しない相互作用までモデルに入れるという問題がある  

•  そこで本論文では予測に寄与していくような順番で相互作用項を追加していく方法を提案

紹介論文より引用

Page 6: Recsys2014 recruit

実験結果

•  既存のPMF(Probabilis4c  matrix  factoriza4on),  FM(Factoriza4on  machine)と比較してよい精度がでている  

•  タスクはtwiWerのようなサービスにおいて、ユーザが提示されたつながりのレコメンドをacceptするかどうかを予測

紹介論文より引用

Page 7: Recsys2014 recruit

レビュー

•  新規性・独創性  :  2  – 手法自体は[Chen+  2013,  ICML]のMFにGradient  boos4ng  algorithmを適応した方法をFMに適応しただけであまり新規性はない  

•  有効性・実用性 :  4  – もともとのFMが有効な手法であり  – 従来のFMではできなかった有効な二次の項だけ

選択できるようになったという点で実用的といえる