RecSys 2021 Abstract を眺める .... Wed Sept 30

なんか、、去年よりPaper が多くないかしら....

Session 10: Applications-Driven Advances

Learning to Represent Human Motives for Goal-directed Web Browsing

モチベーションやゴールは、行動の源泉であることはしられているが、ほぼ観測できないため、ブラウジングにおいてゴール達成のためにどれくらい貢献できているかはあまり知られていない。この問題を解決する新しい neural frameworkである Goal-directed Web Browsing (GoWeB)を提案する。我々は心理学用語である「 higher-ordered goals」を適用し、この表現を構造を保持する手法で学習した。さらに、これを人々のWeb行動に適用した。Edge ブラウザ上の検証により、 GoWeB は Webページの推薦や再訪問のクラシフィケーション、さらにゴールベースのウェブページのグルーピングにおいても他の競合より優れていた。また、おっての検証では、人のモチベーションがどれだけ行動を多様化させるかも示した。

Debiased Off-Policy Evaluation for Recommendation Systems

高コストで時間もかかる A/B テストに代わり、バイアスのない Off-Policy Evaluation を提案する。

Boosting Local Recommendations With Partially Trained Global Model

Salesforce のIndustrial Session.Einstein の話だろうか。 BtoB の推薦システムはBtoC とは違うチャレンジがある。違う組織に適用した場合、質量両面でこっちで活用できたデータがそっちでは効かないということがある。それは運用だったり、マーケティング戦略だったり、ターゲットが違うからである。クラウドであるSalesforce では、さまざまな組織のデータをプールし、違うブランドのモデルを構築するために活用している。しかし、プールしているデータでつくったモデル、顧客の特徴の妥当性や、これらのデータの信頼性や倫理性をどのように評価したらよいか、というのはひとつの課題である。ここでは、そのためのフレームワークを提案する。さらに鍵となるプライバシーの考慮事項について言及する。

Recommendations at Videoland

RTLのIndustrial Talk.

Follow the guides: disentangling human and algorithmic curation in online music consumption

Centre Marc Blochの人。コンテンツのdiversityは議論の余地があるissue だが、量的なSTOA はたびたび個人の態度に過剰に反応し、異なるカテゴリーを考慮してしまうことがある。音楽ストリーミングのケースにフォーカスし、9000ユーザの１年間にわたる聴取履歴を分析した結果、すべてをカバーするような回答を得ることはできなかった。つまり「ユーザによる」。まず、それぞれのユーザの相対的な重要度を計算し、ユーザのカテゴリを特定した。次に二つのスケール（どのコンテンツを繰り返し聴いているか？ユーザが消費するコンテンツはどれくらい人気があるか）にフォーカスし、ふたつのタイプの推薦（アルゴリズムによるものと編集によるもの）はコンテンツの多様性を加速させるが、これもユーザのタイプによる。最後に、ユーザのストリーミング履歴とフランスの人気のラジオの選曲を比較した。ラジオプログラムは、より人気のないアーティストの曲を流す傾向にあった。全体的に、推薦システムが影響を与える自明出ない効果に光を当てる結果となった。これは"filter bubble" というより"filter ニッチ"と呼べる。

Recommendation on Live-Streaming Platforms: Dynamic Availability and Repeat Consumption

ライブストリーミングプラットフォームはユーザが作ったビデオをリアルタイムで配信する。このようなプラットフォームでの推薦は伝統的な方法で類似度を共有している。けれども、いくつかのチャレンジで推薦システムを改善した。ひとつはコンテンツが動的なため、ユーザが選べるアイテムが限られているということ。学習と推論の間、我々は事実を注意深く扱わなければならない、なぜなら「なにも操作をしない」ということは「きにいっている」ということを意味するので。ストリーマーはまた、根本的に「アイテム」とは異なる。チャンネルが繰り返し消費されることは重要なロールではあるが、コンテンツそのものは揮発するという性質があるから。 この論文では、われわれは動的にアイテムが有効になるような条件での推薦を研究した。LiveRec、インタラクションの履歴と現在有効なコンテンツからイテムのランキングをパーソナライズする self-attentive model を提案する。また、繰り返し見られているという事実を注意深くモデリングすることにより、パフォーマンスが上がることを示す。このアプローチを評価し、またこのような状況に関するより深い調査をするため、Twitch の 475M のユーザインタラクションデータセットをリリースする。検証し、良い結果が得られた。

Session 11: Practical Issues

Drug Discovery as a Recommendation Problem: Challenges and Complexities in Biological Decisions

アステラぜネカのIndustrial Session。

Denoising User-aware Memory Network for Recommendation

Alibaba.ユーザ満足とビジネスのこうちるのために、sequence-based の推薦システムが注目を集めている。ユーザの嗜好の発展はユーザのフィードバックより捕捉することができる。けれども、既存の推薦システムはimplicit feedback のバイアスを考慮していない。同様に、既存のシステムはユーザの嗜好を捉えるのにアイテムのsequenceを利用している。この手法のパフォーマンスはsequence の長さに依存するため、長期の興味関心を効率的にモデリングできない。そこでわれわれはあたらしいCTR(Click to Rate) モデルである。denoising user-aware memory network (DUMN)を提案する。特にこのフレームワークは(i) implicit feedbackを純粋化し、ノイズを効率的に除去するための直行マッピングベースの特徴量純化モジュールをもち、(ii) メモリネットワークを改善することにより、長期間の興味関心をモデリングすることが可能になる ユーザメモリネットワークを設計、 (iii) 長期と短期のユーザの興味関心を融合させる インタラクティブ表現のコンポーネントを開発した。実データで検証したところ、良い結果を得た。

Learning an Adaptive Meta Model-Generator for Incrementally Updating Recommender Systems

実世界の推薦システムは、多くの人に利用されている。最近の傾向を掴むために、モデルを新着データのみでインクリメンタルに学習することがほとんど。ただ、この手法では長期の情報をモデルに反映させることは難しい。そこで、Adaptive Sequential Model Generation (ASMG) frameworkを提案する。これは、メタジェネレータを利用するものである。メタジェネレターの設計では、Gated Recurrent Units (GRUs) を活用する。また、GRU meta generatorとともにさまざまな戦略を適用し、計算効率だけでなく精度の向上も実現んした。検証したら良い結果。

You Do Not Need a Bigger Boat: Recommendations at Reasonable Scale in a (Mostly) Serverless and Open Stack

Coveo のIndustrial Session. データパイプラインが未熟だと、推薦システムに最新の研究結果を反映することができない。われわれは ML のための 「妥当なスケールの」データスタックテンプレートを提案し、サーバーレスのパラダイムを取り入れたことにより多くのチャレンジができたことを紹介する。オープンソースツールを活用し、最低限のインフラ整備でテラバイトのデータを処理するパイプラインを構築した事例を紹介する。

Shared Neural Item Representations for Completely Cold Start Problem

Rakuten USA. Neural networks の推薦システムは一般的になってきた。ほとんどはユーザとアイテムの表現を得るのに利用する。コールドスタート問題に対応するためにはこの方法は効率がわるいため、ふたつの表現を統一しアイテムネットワークから生成されたもののみ使用する手法を提案する。また、アテンションの仕組みが埋め込み表現の質を高めることを示す。検証では、この手法の方が早く収束し、少ないイテレーションで高いリコールを獲得、学習サンプル数の変化にもより堅牢であることがわかった。

A Payload Optimization Method for Federated Recommender Systems

Pakistan の人や　Huawai の人。

この研究では、FRS のためのpayload 最適手法を提案する。FLにおいて、サーバとユーザ間を移動するグローバルモデルpayload は推薦するアイテムの数に依存する。アイテムの数が増えるとpayload の数も増える。そのため、グローバルモデルを選択し、全てのユーザにtransmitするためのMAB ソリューションを計算する。選択プロセスはFLシステムに最適な新しいReward 関数より導かれる。また、これはアイテムに依存するpayload を探索する最初の最適関数である。この手法を検証し、良い結果を得たし、パフォーマンスも下がらなかった。

Session 12: Real-World Concerns

Cold Start Similar Artists Ranking with Gravity-Inspired Graph Autoencoders

Deezerの発表。 音楽ストリーミングサービスのアーティストプロファイルページでは似たアーティストが推薦される。けれども新しいアーティストでは利用データがないためチャレンジングである。この問題を 有向グラフ内のlink prediction タスクとして捉え、アーティストをtop-k most similar neighborsと接続し付属する音楽情報と協調する手法で解決する。その後、 graph autoencoder 構造を活用し、ノードの埋め込み表現をグラフから学習、自動的に 新しいアーティストのtop-k most similar neighbors を gravityに着想を得た機構で得ることを目指す。グローバルストリーミングサービスに適用し、柔軟性と効用を確認した。

Tops, Bottoms, and Shoes: Building Capsule Wardrobes via Cross-Attention Tensor Network

Visa Research の発表 ファッションはパリのランウェイだけにあるわけではない。ファッションは自己表現であり、アイデンティティであり、ムードで、文化である。いろいろなカテゴリの候補があるとき、どのように組み合わせるとおしゃれになるのか？自動的にワードローブを推薦したい。 Capsule ワードローブ生成 は複数のアイテムの相互作用を把握する必要がある複雑な組み合わせの問題。生成プロセスでは、ファッションのエキスパートに手作業で組み合わせてもらう必要があるがスケールしない。 そこで、 TensorNet, トップス、ボトムス、靴の互換性を示すものを提案する。TensorNet は全身コーデに対して実行可能なアドバイスを提供する。 TensorNet は２つのコアモジュールからなる。 Cross-Attention Message Passing module と Wide&Deep Tensor Interaction module.である。この構造により、TensorNet はローカルの範囲ベースのパターンをグローバルの互換性とおなじくらい。検証したら良い結果。TensorNet によりファッションデザイナの選択肢を狭めることができる。

Semi-Supervised Visual Representation Learning for Fashion Compatibility

Walmart,India の共著。 ファッションの推薦システムにおいてラベル付がすごく大変なとこおr、半教師あり学習により効率的にコーディネートのための画像のラベル付をする手法を提案。

Large-Scale Modeling of Mobile User Click Behaviors Using Deep Learning

Google Research の発表。

一連のタップやクリック操作データをDL でモデリングし、UIの最適化に役立てたい。そのために、次の操作を予測するDL モデルを構築した。モデルは良い精度だったので、このモデルをどのようにモバイルのインタラクション実装に適用し、ユーザ体験を向上させるのか議論する。

EX3: Explainable Attribute-aware Item-set Recommendations

Amazon と共著 ほとんどの推薦システムは、推薦するための鍵となるアイテム属性がなんなのか、ユーザに示すことはない。ただ、それによる購買の判断がしやすくなる。ここで我々は attribute-aware item-set recommendation problemを一般化し、アイテムと重要な属性を生成する新しい手法を提案する。特に、ユーザの行動履歴から重要な属性を学習するシステムにより、ユーザは「説明」をより自然に受け入れやすくなる。またスケールを目指し人によるアノテーションを排除した。最後に multi-step learning-based framework であるExtract-Expect-Explain (EX3)を提案する。検証したら良い結果。

Page-level Optimization of e-Commerce Item Recommendations

eBay. 商品詳細ページには、他の関連商品が推薦されていることが多い。これはカルーセルで表示されている場合がある。商品の選択と並べ替えはユーザ体験の向上に寄与する。っここでは、DNN を利用し、商品詳細ページ上にリアルタイムにパーソナライズされたアイテムを推薦するスケーラブルなend-to-endの商品システムを提案する。オフライン、A/B テストともによい結果を得た。