2024年を振り返る

あけてしまいましたが、ふりかえります。

仕事

苦しかったー　「自分はこれくらいやるべき」みたいなところを勝手に爆上げして、全くできなくて、自己嫌悪の上、どんどんはまってなにもできなくなっている感じ。なしとげたいことに対して自分1人で一足飛びにやりながらスキルをみにつけてやろうとしていたんだと思う。

アウトプットは少なかったけど、外に出るということだけはやっていった。行動したこともあるので、少し自分の中で寝かそう。

技術

なんもしてない。2025年はここだ

家

全然いなかった。2025年は、家にいて、学校にもいこう。

遊び

仕事をいいわけに、全国いろいろいったし、旅行も美術館も映画もいっぱいいった。そこは楽しかった

なので、2025年にしたいこと

今年は1年かけて元気になる。ただそれだけ。異常に敏感に、逃げるときは逃げて、自分を大切にして、サバイブして、秋はお休みもらって、チェコのRecsys にいきたい。

RecSys 2024 : Abstract Day 3

recsys recsys2024

https://recsys.acm.org/recsys24/program/

Day3

Keynote : The Power of AI in Recommender and Search Systems: An Industry Perspective Through the Lens of Spotify

このセッションでは AI の推薦システムへのインパクトを、Spotify 視点で消化する。広範囲なオーディオのカタログにおいて、Spotigy は アドバンスドなAI-driven 検索と推薦システムにより、ユーザー体験を強化した。これらのシステムは、膨大なトラック、ポッドキャスト、オーディオブックのガイドを提供するだけでなく、コンテンツの発見も促進する。ユーザーの好みを詳細にモデリングし ML や 生成AI の SotA な技術を採用することにより、Spotify は高度にパーソナライズした推薦を実現する。このアプローチは、ユーザの即時的なニーズを満たすだけでなく、未知で関連のあるコンテンツを紹介し、彼らのエンゲージを保ち、聴く体験を豊かにする。このプレゼンでは、Spotify でAIにより強化された推薦システムにおいて、進行中のイノベーションより、研究の成果を紹介する。

Session 12: Optimisation and Evaluation 2

DNS-Rec: Data-aware Neural Architecture Search for Recommender Systems

エネルギー効率のよい推薦システムのための新しいNAS 、DNS-Rec を紹介。Attention ベースのSRSモデルのための コンパクトな Network 構造を紹介。また、動的なリソース制限戦略を採用している。

ConFit: Improving Resume-Job Matching using Data Augmentation and Contrastive Learning

ジョブサーチの推薦。データのスパース性の課題を、データ拡張とシンプルな対称学習でカバーする。特定のセクションをパラフレーズさせることによりデータ拡張する。検証したら良い感じ。

Unified Denoising Training for Recommendation

implicit なフィードバックはノイズが多いので、ユーザの行動を意志とアクションのフェーズでブリすることによりノイズを除去する方法を提案する。分析により、フェーズによるノイズ行動の傾向が明らかになった。そこから UDT を提案する。

Embedding Optimization for Training Large-scale Deep Learning Recommendation Systems with EMBark

DLRM の学習では、GPUなどのリソースをどうスケールさせるかが鍵。そこで EMBark を紹介。これでDLRM 学習のスループットがあがる。

AIE: Auction Information Enhanced Framework for CTR Prediction in Online Advertising

Auction 情報を 推薦に加えると広告 CTR 最適化の精度が向上することは知られている。そこで AIE を提案。AIE は AMZ / BCM の2つのモジュールをもつ。さらにこれは軽量でモデルに依存せず、推論のレイテンシーも高くない。実験したらいい感じ。

Right Tool, Right Job: Recommendation for Repeat and Exploration Consumption in Food Delivery

フードデリバリーにおけるストア推薦を取り上げる。1) 複数のプラットフォームのフードデリバリーを分析し、繰り返したり、探索したりする行動が特徴的だということを発見。次に、RepRec / ExpRec の二つの推薦を別々にデザイン。最後に実データで検証してみた。

Context-based Entity Recommendation for Knowledge Workers: Establishing a Benchmark on Real-life Data

再現性の論文。プライバシーが重視されたり、ヘテロな推薦だったり、コンテキストスイッチが多く発生するKnowledge Work のための推薦のベンチマークをつくった。

(先生とか、病院とかかな）

Informfully – Research Platform for Reproducible User Studies

再現性の論文。コンテンツ配信とユーザ分析のための研究プラットフォーム、Informfully を紹介。 加工したテキスト、画像、音声、動画をユーザに自動でプッシュし、彼らの消費行動を記録できる。1) 推薦アイテムを表示するフロントエンド、2) ユーザー体験をつくるためのバックエンド、3) アイテムをランクづけするJSON-based なフォーマットからなる。

Session 13: Robust RecSys 1

RPAF: A Reinforcement Prediction-Allocation Framework for Cache Allocation in Large-Scale Recommender Systems

推薦システムのためのキャッシュアロケーション、RPAF を提案する。予測とアロケーション、二段階からなる。実験したらコンピュータバジェットの制約がある中でユーザのエンゲージメントを高めた。

Improving the Shortest Plank: Vulnerability-Aware Adversarial Training for Robust Recommender System

推薦システムの脆弱性対策。現在の攻撃対策が全体に対して検知・防御しているため、一部のユーザのみが攻撃された場合、攻撃されていないユーザへの推薦の質を下げずに防御するのがむずかしい。攻撃を分析し、VAT を提案する。これは ユーザの脆弱性を予測する関数を含む。脆弱度あいによって学習データへの採用を重み付ける。

Session 14: Robust RecSys 2

FedLoCA: Low-Rank Coordinated Adaptation with Knowledge Decoupling for Federated Recommendations

プライバシーを守るために Federated Learning に対し、新しい手法 FedLoCA を提案する、これはグローバルをクライアント特有の知識を低次元の埋め込みに分割することにより、コミュニケーションのオーバーヘッドとユーザ特徴の捕捉を可能にするもの。さらに Adversial Gradient Projected descent 手法を提案。

Accelerating the Surrogate Retraining for Poisoning Attacks against Recommender Systems

ユーザ行動を偽装することにより特定のアイテムの推薦を高くする攻撃からまもるための再学習は高コスト。これを克服する、Gradient Passing 手法を提案する。これにより、効率的に フェイクユーザー行動を除去することができる。

Session 15: Off-Policy Learning

Off-Policy Learning = 未来の行動（action）が現戦略（Policy）に関係なく（Off）常に最善のものが選ばれると想定して学習する。 variates = 変量 decision-making problems = 直訳していいのか？ 強化学習がたぶん馴染んでいない

Multi-Objective Recommendation via Multivariate Policy Learning

Objective が複数あるような推薦では、ユーザー行動の重みづけが鍵。Nofth Star への貢献を最大化するような 多様性ポリシー学習手法を提案する。悲観的にひいた North Star の下限を最大化するように ポリシーを学習していく。

Optimal Baseline Corrections for Off-Policy Contextual Bandits

変量をコントロールするための手法は additive (足し算）、multiplicative (掛け算）があるが、これらを統合する手法を提案する。これにより、variance に最適化した バイアスのないestimator を獲得することができる。

Effective Off-Policy Evaluation and Learning in Contextual Combinatorial Bandits

CCB 上のOPE/L には High bias or variance という課題があるが、ここで「factored action space 」を提案する。この計算により、メインのアクションから導出されるメインの効果と、副次的な効果を区別することができる。このOPCB で実験してみたら、バイアスの削減を実現できた。

Session 16: Large Language Models 2

Unleashing the Retrieval Potential of Large Language Models in Conversational Recommender Systems

LLM は会話による推薦システム(CRS)を革命的に変えたが、LLM そのまま利用するだけではアイテムを推薦できない。そこで、ReFICR を提案する。これは情報のRetrieval を LLM のembedding で、 generation を fine-tuned することにより実現。ソース：https://github.com/yt556677/ReFICR

The Elephant in the Room: Rethinking the Usage of Pre-trained Language Model in Sequential Recommendation

PLM-based SR で一般的な「ユーザーの行動テキストをそのままPLMでエンコーディングする」は致命的な情報ロスを発生させるので、そうではない SR 用の PLMの使い方を提案する。IDベースのSR に 行動でチューニングされたPLMを適用する手法は効率がよかった : https://github.com/777pomingzi/Rethinking-PLM-in-RS

ReLand: Integrating Large Language Models’ Insights into Industrial Recommenders via a Controllable Reasoning Pool

LLMはすごいがそのままRecSys に使うとコストが高い。そこで、ReLand を提案する。ReLand では LLM Reasoning Pool を構築し、情報抽出や推薦に応用する。Alipay で検証していい感じ。

Bayesian Optimization with LLM-Based Acquisition Functions for Natural Language Preference Elicitation

Preference Elicitation において、LLMで自然に質問することはできるが、情報の聞き出しに不安定さが残る。対して、伝統的な ベイズ最適化を用いれば推薦に必要な情報は聞き出せるが自然な会話にならない。そこで BO上のNL-PE を提案。チャレンジは、どうやってLLM を活用するのか、どうやって無限スペースのLLM でNL BO のための関数をデザインするのか。PEBOL ではうまいことやった。検証では良い感じ。

Towards Empathetic Conversational Recommender Systems

,CRS では会話でユーザの嗜好を探るが、一般的なアイテムを提示するだけでは、本当の「好き」を見つけることはむずかしい（どれもあまり関心がない場合に重く見すぎてしまう）。そこで ECR を提案する。ECR は 感情にもとづくアイテム推薦と感情にそった応答生成の二つのモジュールからなる。ECR では　RAG を利用。また評価の指標も提案。ReDial のデータセットでは良い感じ

FLIP: Fine-grained Alignment between ID-based Models and Pretrained Language Models for CTR Prediction

CTR 推論 は ID ベースから PLM を用いて意味で肉付けする方法に拡張して行っているが、協調に関与する特徴を抽出するのは困難。そこで、FLIP を提案。テーブルのID とワードトークンの関連を学習する。実験したら良い感じ。

A Comparative Analysis of Text-Based Explainable Recommender Systems

再現性の論文。テキスト説明による推薦システム全般の評価。https://github.com/alarca94/text-exp-recsys24.

Reproducibility of LLM-based Recommender Systems: the Case Study of P5 Paradigm

再現性の論文。LLM は進化が早く推薦システムを再現させるのも大変。ただ、評価のためのフレームワークがないので、LaikaLLM を作った。

Session 17: Women in RecSys

Reproducing Popularity Bias in Recommendation: The Effect of Evaluation Strategies Evaluation Measures of Individual Item Fairness for Recommender Systems: A Critical Study Interactive Content Diversity and User Exploration in Online Movie Recommenders: A Field Experiment Understanding the Contribution of Recommendation Algorithms on Misinformation Recommendation and Misinformation Dissemination on Social Networks Where are the values? A systematic literature review on news recommender systems

RecSys 2024 : Abstract Day2

recsys recsys2024

プログラム

https://recsys.acm.org/recsys24/program/

Day2

Session 6: Multi-Task Learning

Touch the Core: Exploring Task Dependence Among Hybrid Targets for Recommendation

Web上の行動が複雑化する中、ひとつのConversion を増やすために、そこに至るアクションなどを収集し分析していては、直接関与しない重要な行動・嗜好を見逃す。そこで、Multi-task Learning の一種であるHTLnet を紹介。それぞれのタスクにラベルを導入することでタスクの関連性も同時に学習。検証したら良い結果。

Bridging Search and Recommendation in Generative Retrieval: Does One Task Help the Other?

検索や推薦において LLMがブレークスルーになったが、マルチタスクモデルを統一して検索し推薦する場合にもLLMがパフォーマンスを上げるのか、検証した。LLM は アイテムの検索においては潜在情報の獲得に利用されるが 人気度バイアスが発生するが、CFで改善することがわかっている。これを応用し、LLM と CF を同時に学習することにより人気度とアイテムの潜在表現が正規化されるか確認した。実験によるといい感じ。

(... unified は Search と Recommend なのかな... 英語読めてないかも）

Utilizing Non-click Samples via Semi-supervised Learning for Conversion Rate Prediction

CVR 予測モデルのデータスパース問題を解決するために、CTRも同時に予測するマルチタスクモデルを構築する手法がある。改善はあるが、クリックされていないものをネガティブサンプルとして扱う。これを解消する Non-click samples Improved Semi-supErvised 手法を紹介。クリックされた場合のCVR を予測し仮のラベルをつける方法。他のMulti Task 問題にも応用可能。検証したら良い感じ。ソースもある。https://github.com/Hjh233/NISE

Ranking-Aware Unbiased Post-Click Conversion Rate Estimation via AUC Optimization on Entire Exposure Space

CVR予測では、データのスパース性とセレクションバイアスが課題になる。従来はさまざまなデータをすべて学習しつつ、バイアスの問題は独立して検討していた。この論文では　Entire-space Weighted AUC フレームワークを利用することによって、バイアスをハンドリングしながらクリック情報を学習する方法を提案する。

(Selection Bias の問題か）

Session 7: Cold Start

コールドスタート問題の肝は、アイテムの特徴をどれだけ抽出できるか。いままでは商品情報といえども写真やテキストしかなかったが、ショート動画そのものがアイテムになったので、「コールドスタート」とは異質な問題になった気がする。今後このような商品群に関しては、とった動画なんかで推薦とかが決まるようになるのだろうか（服など）

Scene-wise Adaptive Network for Dynamic Cold-start Scenes Optimization in CTR Prediction

Location-based のオンラインサービスでの推薦も増えてきている。シーンに応じた推薦は、状況が多様なためコールドスタート問題を引き起こしやすい。この問題を解決するために、Scene-wise Adaptive Network (SwAN ) を提案する。これは、シーンの類似度を学習したり、今シーンのどの状況にいるのか認識したりする機能をもつ。実際の状況に適用し、改善がみられた

A multimodal single-branch embedding network for recommendation in cold-start and missing modality scenarios

コールドスタート問題にはユーザーやアイテムの埋め込み表現を使うのが定石。これをマルチモーダルなものに適用した Single-Branch embedding network for Recommendation を提案する。マルチモーダルの情報を一つのブランチに埋め込むことによりコールドスタートに対応。この手法は違うモーダルを共通の空間に埋め込むことができる。

A Multi-modal Modeling Framework for Cold-start Short-video Recommendation

ショート動画はユーザーがどんどん投稿するからコールドスタート問題が発生しやすい。この場合、アイテムのstatic な特徴を用いるのがいままでの方法で、マルチモーダルなアイテムからカテゴリを抽出し、ユーザーとアイテムをカテゴリでマッチングするフレームワークが今回の提案手法。

MARec: Metadata Alignment for cold-start Recommendation

コンテンツのメタデータによりコールドスタート問題を解決する方法を提案。コールドスタート時でもワームアップ後でもよい結果。

Prompt Tuning for Item Cold-start Recommendation

アイテムの情報だけでなく、ポジティブフィードバックをプロンプトに取り入れることにより、コールドスタート時の推薦を改善する。

Session 8: Sequential Recommendation 1

CALRec: Contrastive Alignment of Generative LLMs For Sequential Recommendation (Google)

Matrix Factorization から RNN や Transoformer になって、今は LLM を事前学習したモデルとして扱うようになった。この論文では、LLM を二段階でfine-tuning して 連続推薦モデルをつくる方法（CALRec) を提案。まずいろんなドメインのデータでfine-tuning したあと、ターゲットドメインでファインチューニングする。検証したらいい感じ。

A Pre-trained Zero-shot Sequential Recommendation Framework via Popularity Dynamics

商品情報を推薦に使うのは一般的だが、クロスドメインの連続推薦に適用するのはチャレンジング。ただ、ユーザーのインタラクションの変遷はユーザの嗜好を明らかにする、というインサイトを根拠に、PrepRec というTransformer 構造の推薦モデルを提案する。これはzero-shot で適用しても良いパフォーマンスを得ることができた。

Scaling Law of Large Sequential Recommendation Models

巨大な連続推薦モデルにもスケールの法則が適用されるのか？item id のみ（アイテムのテキストなどを利用しない）の推薦モデルは法則が適用されること、他の特徴もスケールすることによりパフォーマンスが向上することを確認した。

ReChorus2.0: A Modular and Task-Flexible Recommendation Library

推薦システム開発用の柔軟なライブラリを提供。入力フォーマット、モデル、学習と評価戦略を柔軟に選択できるようになった。主な追加機能は 1) リランクや CTR 予測など複雑で実践的なタスク、2) いろいろな 推薦システム 3) 同じモデルで違うタスクをできるようにするための拡張、4) 入力のカスタマイズ性の強化。https://github.com/THUwangcy/ReChorus

Dynamic Stage-aware User Interest Learning for Heterogeneous Sequential Recommendation

連続推薦ではユーザーの一連の行動から次のアイテムを推薦するが、ユーザー行動は1) ステージにより変わる (購買したら別のステージになる） 2) 混線している という特徴がある。提案手法（DSUIL ) は 1) 動的にユーザー行動のグラフをサブグラフに分割する 2) サブグラフの特徴を読み取る 3) 振る舞いの依存をまなんでユーザの関心を抽出 4) 「今」の関心のパターンを見つける 。この推薦手法は検証したらいい感じ。

Session 9: Sequential Recommendation 2

Scalable Cross-Entropy Loss for Sequential Recommendations with Large Item Catalogs

SCE は効果的だが、アイテムが多いと高コスト。新しく効率的で精度も落ちないLoss Function を提案。

Transformers Meet ACT-R: Repeat-Aware and Sequential Listening Session Recommendation

音楽をきく場合は、同じ曲を何回も聴くことがある。それはいいときも悪いときもあるが、重要な特徴。そういう音楽特有の行動を推薦に反映させ良い感じで「同じ曲も」推薦させる手法がPISA。

Repeated Padding for Sequential Recommendation

Sequential 推薦ではアクションの長さをそろえるために 0でパディングすることがよくあるが、本当に 0 でよいのか？精度を高めるパディング方法ってないのか？提案手法（RepPad) では長さがMAXになるまでパディングを繰り返す。これはパラメータなしの拡張操作。実験ではよい精度。さらになぜRepPad が効果的なのか、いろいろな観点で分析した。

https://github.com/KingGugu/RepPad

Distillation Matters: Empowering Sequential Recommenders to Match the Performance of Large Language Models

LLM は便利だが推論に時間がかかるので、軽量なSequential 推薦のために、LLM 推薦モデルから知識の上流を試みているが、課題がいくつかある。この論文では、DLLM2Recを提案。1) 重要性にもとづいた蒸留、2) 協調の情報を埋め込み という工夫をしている。実験したら良い結果。

Short-form Video Needs Long-term Interests: An Industrial Solution for Serving Large User Sequence Models (Google)

ショート動画は獲得できる視聴履歴が長くなりがちなので推薦のためのコンテキストデータには困らない反面、データ量が多く提供し続けるのにコストがかかる問題がある。提案手法は、これを解決するモデルで、オフラインの学習と定期的な更新、モデルに依存しない構造のSequential 推薦手法である。検証したら、コスト微増でもとの推薦の精度を向上させた。

Keynote : A Collectivist Vision of AI: Collaborative Learning, Statistical Incentives, and Social Welfare

AI は「知性は単体の自律エージェントに内在する」というパラダイムにフォーカスしている。このパラダイムにおいては、社会課題は完全に副次的なものである。ただAI システムが社会のコンテキストに展開されている現状、このようなシステムの包括的なデザインは ものごとを単純に捉え過ぎている 。中央集権的なエンティティがエージェントを派遣するサービスを提供し、報酬を得る... といった状況であう。このようなパラダイムはITの支配的なパラダイムではない。もっと広くとらえると、エージェントはアクティブで、協調して動作し、学習ベースのシステムへの参加により価値を得ることを望んでいる。エージェントは 、関心があるときのみ、データやその他のリソースをシステムに供給する。批判的にみると、知性は個別のエージェントというより人やコンピュータを含むシステム全体に内在しているのではないか？社会科学的に馴染みのあるこのような視点により、私のキーテーマは経済にコンピューティングとデータサイエンスの基礎的な問いとの接点を持たせることである。この3者間のインターフェースにあるデザインチャレンジを紹介する。

Session 10: Graph Learning

A Unified Graph Transformer for Overcoming Isolations in Multi-modal Recommendation

マルチモーダルでは、特徴量抽出とモダリティのエンコーディングを独立して処理。なぜなら、マルチモーダルに重要な情報を見過ごしてしまう点、アイテムのモーダリティと完全に別の表現になってしまうから。ここで UGT を提案。GNN を構築し、マルチモーダルな ユーザ / アイテム表現を合成。検証したら、いい感じ。

Information-Controllable Graph Contrastive Learning for Recommendation

GCL はコールドスタート時の特徴量拡張に有効な手法だが、頼りすぎるとアイテム間の差分を打ち消してしまうことがある。そこで、ICGCL を提案する。これは共有する情報の最適化を行うことにより、より推薦に影響のある情報を強調する手法。実験してみたらいい感じ。

MMGCL: Meta Knowledge-Enhanced Multi-view Graph Contrastive Learning for Recommendations

Multi-view のGraph Learning は ノイズとデータのスパース性の課題がある。そこで MMGCL を提案。noise は 全部学習したあと修正することにより除去し、また意味のあるエッジを追加することによりスパースなデータに対抗する。実験をしたらいい感じ。

A Novel Evaluation Perspective on GNNs-based Recommender Systems through the Topology of the User-Item Graph

再現性の論文。GNN ベースの推薦において、グラフトポロジーがどれくらいインパクトがあるのか、比較評価する。検証の結果、グラフトポロジーと性能には強い相関があった

Country-diverted experiments for mitigation of network effects ( Google )

(Abstract なし）

Session 11: Optimisation and Evaluation 1

（みれないからあとまわし）

End-to-End Cost-Effective Incentive Recommendation under Budget Constraint with Uplift Modeling

Reproducibility and Analysis of Scientific Dataset Recommendation Methods

再現性

From Clicks to Carbon: The Environmental Toll of Recommender Systems

再現性

Why the Shooting in the Dark Method Dominates Recommender Systems Practice (Criteo)

Powerful A/B-Testing Metrics and Where to Find Them (ShareChat)

Bootstrapping Conditional Retrieval for User-to-Item Recommendations(Pinterest)

Self-Auxiliary Distillation for Sample Efficient Learning in Google-Scale Recommenders( Google )

Optimizing for Participation in Recommender System (Google)

(Abstract なし）

RecSys 2024 : Abstract Day1

recsys recsys2024

https://recsys.acm.org/recsys24/program/

Day1

Keynote : Toward Human-Centered Explainable AI

AI システムによる高次元の意思決定、特にヘルスケア、金融、教育への関与が増加している。説明可能AI (XAI ) とは、AI の回答やそれの理由に対して人間が理解可能な説明を提供するもの。説明により、開発者や研究者は 人の見落としを許容し意思決定を改善するAIシステムを構築し、信頼を育もうとしている。XAI は従来はシステムのパフォーマンスや公平性の改善をめざしていたが、現状私は非技術者のエンドユーザーをどのようにXAI でサポートできるか、考えている。XAI のコアの仮説は、説明が実行可能かどうか、である。つまり、説明はユーザーの知識を変え、AI を利用して実行することを可能にする。エンドユーザーに何を提供すれば、説明が実行可能になるのか？もし実行可能性を無視したらどうなるのか？AIのデザインにおいて留意すべき人の要素はなんなのか？このセッションでは、XAI にフォーカスしてこれらの問いについて検討した上で、このような研究により AIシステムのユーザーの成果が改善することを証明する。

Session 1: Large Language Models 1

SeCor: Aligning Semantic and Collaborative Representations by Large Language Models for Next-Point-of-Interest Recommendations

地域ベースアプリケーションが広く普及するにつれ、POI (Point-of-interests) 推薦へのニーズ、特にチェックイン履歴と現在地によって次のPOI予測への関心が高まっている。しかし、既存の手法はチェックインデータの入り組んだ関係を捉えるのに苦労している。これは、一時的な空間情報表現の限界によるものであり、リッチな意味素性を活用できていないことに起因する。LLM は、これらを解決する強力な意味的包括性を提供するが、同時にハルシネーションを引き起こしグローバルの協調情報と組み込む能力に乏しい。この課題を解決するため、あらたなメソッド SeCor を提案する。これは POI 推薦をマルチモーダルタスクのようにあつかうことにより、意味表現と協調表現を統合したハイブリッドで効率的なエンコーディングを実現する。SeCor は最初に基本的な協調フィルタリングモデルを適用することにより相互特徴量を発掘する。この埋め込み表現は、モーダル情報のひとつして、LLMにあたえ、LLMが意味的表現にそった解釈をすることによち、効率的なハイブリッド表現を得ることが可能になる。はるしネーションを低減させるために、SeCorではLLMの出力をそのままあつかわず、ハイブリッド表現ベースの推薦を行う。3つのデータによる実験では、SeCor は すべてのベースラインよりよい性能があった。

Towards Open-World Recommendation with Knowledge Augmentation from Large Language Models

推薦システムはさまざまなオンラインサービスで重要な役割を担っている。しかし、学習と展開が分断しているという特性により、一般社会の知識の反映は限定的である。LLMの世界に関する知見と理由づけのケイパビリティによりこれらのギャップをなくす試みがされている。しかし、先行研究ではLLMを推薦にそのままつかってしまうため、Latency の 事業要求に答えられない。ここでは、Open-World Knowledge Augemented Recommendation Framework = KARを紹介する。KAR ではLLMから二つのタイプの知識 - ユーザーの嗜好に関する理由づけの知識とアイテムの事実に関する知識 - を獲得する。まずは、ユーザー嗜好に対する精密な理由づけを、factorization prompting により導き出す。生成された理由と事実は、効率的に変換され、hybrid-expert adaptor により監査ベクトルに埋め込まれる。これにより、推薦タスクで代替可能となる。計算したベクトルはそのまま使うことができ、それによりどんな推薦モデルのパフォーマンスも向上させることが可能。さらに、LLMからの知識を事前に処理して格納することにより、効率的な推論も実現する。実験では KAR はSOTA を超えたパフォーマンスがあり、さまざまな推薦アルゴリズムと互換性があった。Huawei's ニュースと音楽の推薦プラットフォーム上でも KAR は 7% / 1.7% の改善があった。

LARR: Large Language Model Aided Real-time Scene Recommendation with Semantic Understanding

CTR 予測は推薦システムにおいては重要。フードデリバリーやEC などいろんな面でユーザーにパーソナライズされた推薦システムを提供する。しかし、従来のRS は協調シグナルに依存しており、実際のシーンにおける意味の解釈にかけていた。LLM を RS に組み込むための主なチャレンジは、長文入力の効率化を目的に行われていることが多かったが、この課題を解決するために LLM の補助によりリアルタイムシーン推薦（LARR)を提案する。これは、LLM を意味の理解のために適用する。LLMがテキストそのものを処理せずに実シーン情報を利用することを可能にし、LLMベースのCTRモデリングの効率を上げる。特に、推薦システム固有の知識はLLMに注入されるので、RS は LLMの出力を実シーンの情報と分離して統合エンコードすることが可能。はじめに、LLMを推薦データからつくったコーパス上で事前学習する。LLM は ３種類のサンプル構成戦略による対象学習を通してファインチューニングされる。このステップにより、LLMはテキスト埋め込みモデルに変換される。最後に、ことなるシーン特性のための別々のLLMの出力をエンコーダーに統合し、RS の協調シグナルにアラインする。これにより、推薦モデルのパフォーマンスを上げる。

Playlist Search Reinvented: LLMs Behind the Curtain (Amazon)

検索機能の向上は、モデル学習のための欠如や包括的なドキュメントインデクシングのためのメタデータの充実、評価のための手作業のアノテーションが労働集約的である点などから、難しい課題になっている。古くは、人によるアノテーションと顧客のフィードバックを繰り返し行ってきた。しかし、LLMの最近の進歩は新しい解決方法をもたらした。この論文では、LLMをplaylist の検索への適用にフォーカスする。LLM の文脈理解と生成のケイパビリティによりメタデータの充実を自動化し、手作業を削減し迅速な学習を可能にした。LLMはさらにデータ不足の問題を学習データの生成により補い、評価の判断をスケールさせ、アセスメントのパフォーマンスを強化した。これらのイノベーションが、どのようにplaylist 検索を強化し、昔ながらの手法の限界を超えて、精度と関連度において検索結果を改善したか、紹介する。

A Hybrid Multi-Agent Conversational Recommender System with LLM and Search Engine in E-commerce (JD.com)

マルチエージェントのコラボレーションは対話推薦システムを構築する上での流行りの手法で、特にLLMを使うことが幅広く普及している。これらのシステムは複数のLLMエージェントを採用し、それぞれが異なるロールをもちユーザのニーズを叶える。事業において、CRSは最初のトークンをいかに早く返すか（ユーザが入力してから、システムが最初の返事トークンを返すまでの時間を短縮する）、また、高いスケーラビリティが重要。例えば、ユーザごとのLLM推論の数を最小化する、など。これらの施策を実行することにより、ユーザ体験を強化しプラットフォームの利益をブーストできる。例えば、JD.comのベースラインCRS は2つのLLMエージェントと検索API を採用したが、最初のトークンを返すまでに時間がかかり、１リクエスト2LLM推論が必要で、パフォーマンスを悪化させていた。この課題をかいけつするために、Hybrid Multi-Agent Collaborative Recommender System (Hybrid-MACRS)を提案する。これは、fine-tuned 専有LLMにより強化された中央エージェントと検索エージェントからなる。このハイブリッドシステムは最初のトークンのレー点シーを70% 削減し、LIPR を2つから１つにした。A/Bテストでも効果は確認できた。

Large Language Models as Evaluators for Recommendation Explanations

RSの説明可能性は研究においても産業界においても非常に注目されている。説明可能な推薦のためにさまざまな手がつくされてきたが、説明品質の評価はチャレンジングでありまだ解決されていない課題である。LLMはNLP（意味分類、情報抽出）の中心になるにつれ、情報の補足や常識による理由づけのケイパビリティで威力を発揮するようになった。けれども、推薦の説明文の評価はNLG のタスクとは異なり、人間の認知と対象に大きく依存する。

この論文では、LLMが推薦説明の評価として機能するか評価する。このために、先行研究で得た説明に対するユーザのフィードバック、さらに3-partyのアノテーションとLLMの評価を収集した。三段階のメタ評価戦略を適用し、評価ラベルとユーザが提供した事実との創刊を測定した。実験によると、GPT4などのLLMは適切なプロンプトと設定をすれば、比較可能な評価を提供することができた。さらにわれわれは、人の手によるラベルとLLMの評価プロセスを組み合わせることにより深いインサイトを提供することができ、複数のヘテロLLM評価を組み合わせることにより評価の精度と安定度を高められることを発見した。われわれの研究はLLMを評価に利用することにより、精度たかく、再現可能で、コストも低い解決策を提供できることを確認した。

Session 2: Bias and Fairness 1

FairCRS: Towards User-oriented Fairness in Conversational Recommendation Systems

対話推薦システム（CRS) により、推薦システムが複数回のインタラクションの中でユーザーの好みを正確に把握し、より精度たかくパーソナライズした推薦を提供することを可能にした。しかし、CRSのデータのアンバランスさ、ユーザの対話履歴の欠如により、不利なユーザグループに対して異質の対応をしてしまいがちである。この論文では、ユーザ視点でCRS の差別問題を取り上げる。われわれはこれを ユーザ志向公平性とよぶ。CRS における異なるユーザグループに対する不平等性の問題を明らかにするために、分析をおこなった。つぎにこれらの不公平性を克服するために、FairCRS というフレームワークを提案する これは、モデルに依存しない なフレームワークである。特に、ユーザー埋め込みの再構築機構を開発することにより、インタラクション情報をより多くとりいれユーザの埋め込みを豊かにするとともに、ユーザー指向の公平性戦略をデザインすることにより、不公平性があるユーザ間の品質の違いを最適化することを確認した。実験により、英語と中国語のデータセットにおいては、FairCRS はSTOAを超えた。

AMBAR: A dataset for Assessing Multiple Beyond-Accuracy Recommenders

推薦システムでは、ユーザー アイテムのインタラクションデータ以外にも、ユーザ観点でも相手も観点でも追加の情報をモデルに反映させることが求められている。データセットは新しいモデルやアルゴリズムを評価するために必要な情報を提供するための中心的存在だ。ただ、ユーザとアイテムに関連する文章はたくさんあり、いくつかの課題が未解決のままである。i) ユーザーとアイテムの関連がうすいため、クロスして分析をすることが困難 ii)加えて、ほとんどの場合データセットは異なる粒度の分析をすることができない。この論文では、音楽ドメインの新しいデータセット、AMBAR を提案する。これは、上で言及した課題を解決するもの。データセットの構造の詳細を話した上、われわれはアプリケーションの内容をお見せし、効果と精度を評価する

Do Recommender Systems Promote Local Music? A Reproducibility Study Using Music Streaming Data

この論文では、ローカル音楽の推薦システムの評価し、LFM-2b パブリックデータセット上の研究からの発見を議論する。先行研究では、異なる推薦システムにはアルゴリズムにバイアスがあり、音楽消費の傾向を変えることに言及した。しかし、先行研究ではLFM-2b 音楽ストリーミングサービスの多様なオーディエンスを反映していない。この研究の堅牢性を評価するため、global streaming serviceの視聴データを利用し分析を再実行した。ローカル音楽消費のパターンとLFM-2bデータセットは異なり、これはLFM-2b からの結論に警鐘を鳴らす。さらに、バイアスに影響のあるパラメータを発見した。最後に、正確にラベルづけされたローカル音楽の複雑さについて議論し、信頼できない、不完全なラベルにもとづく研究のリスクを唱える。

Fair Augmentation for Graph Collaborative Filtering

昨今の推薦の開発では、ユーザ-アイテムネットワークからユーザの嗜好を学習するためにGNNは強力な武器となることがわかっている。ただ自動システムの公平性に関する規制が強化される中、グラフ協調フィルタリングの不公平性、特に消費者観点で十分に研究されていない。消費者の不公平性に関する研究は多いものの、GNN を掘り下げたものはすくなく、効率や信頼性においても十分に検討されていない。この論文では、最新の手法の再現性を評価することにより、グラフ協調フィルタリングの不公平性について評価する。公平なグラフ拡張を学習することにより、再現した技法をシステムの公平レベルにアジャストする。11 のGNN 、5の非-GNN、5つの実在のネットワークを使い実験を行った結果、高い利便性と巨大なデータセットを持つ場合に公平なグラフ拡張が可能になっていることを発見した。また、実験を通して新たな課題も発見した。 Source code: https://github.com/jackmedda/FA4GCF.

Enhancing Recommendation Quality of the SASRec Model by Mitigating Popularity Bias(ZDF)

ZDF はドイツの公共サービスメディア であり、推薦システムをストリーミングサービスプラットフォーム ZDFmediathek で利用している。ADFmediathek でのメインのユースケースが「Next Video」である。これは、今は Self-Attention をベースにした Sequential 推薦モデル（SASRec）である。このユースケースで、損失関数、ネガティブアイテムのサンプリング方法を修正し、top-k ネガティブサンプリング戦略を適用した上で、SASRec モデルと比較した。これにより、人気バイアスを軽減し、クリックと視聴ボリュームを増加させることができた。

Putting Popularity Bias Mitigation to the Test: A User-Centric Evaluation in Music Recommenders

人気バイアスは推薦システム（特に音楽）特有の現象である。人気バイアスの削減の技術は、RS の公平性を強化することで高いパフォーマンスを維持できることがしられているものの、ここには推薦された音楽に対する現実のユーザー認知に関する理解が足りていない。このギャップをうめるために、われわれはユーザー調査を実施し、ユーザーの満足度や人気バイアスを削減したアルゴリズムで推薦された曲に対する印象を探索した。特に、われわれは、アイテム中心とユーザー中心バイアス軽減の技術を開発し、アーティストにもユーザーにも公平性を提供できるようにした。結果、どちらの軽減施策も、ユーザーの満足度を損なうことがないことがわかった。しかし、アイテム中心の削減技術はユーザーの認知に影響を及ぼす。人気のアイテムが推薦されることが減ることにより、アイテムに対する親近感が少なくなる。低い親近感（なじみ感）は、ユーザーの好みが増幅される感覚になる。これは究極的にはより顧客満足度を高める。人気のないアイテムの推薦がユーザー体験を改善する、このポテンシャルについて言及する。

Not All Videos Become Outdated: Short-Video Recommendation by Learning to Deconfound Release Interval Bias

ショートビデオの推薦システムは、最近リリースした動画を進めがちだが、すべての動画が「最新」ではない。古い動画の一部は変わらず魅力的。このようなバイアスは、長期的にはユーザーと動画のマッチングモデルにより解決される。それは、モデルが既存のインタラクションから学習するから。実際には、異なる動画はユーザの注目の頻度に対する敏感さに多様性がある。我々の分析によると、リリース頻度は交絡因子として働き、ユーザーと動画のあいだのバックドアを確立することがわかった。この交絡因子効果に言及するために、Learning to Deconfound the Release Interval Bias ( LDRI ) というモデルに依存しないな因果アーキテクチャを提案する。LDRI はマッチングモデルと動画の頻度感度パーセプトロン、両方からの学習を可能にする。また、バックドアへの適用し、それぞれの動画に介入することによりバックドアへのパスを効率的にブロックする。２つのベンチマークにおける実験を通して、LDRI はよい性能。追加の分析では、LDRI の交絡因子削減のケイパビリティを確認できた。

Session 3: Bias and Fairness 2

Biased User History Synthesis for Personalized Long-Tail Item Recommendation

新しいアイテムや人気のないアイテムが推薦されにくい問題に対して、ユーザ履歴の合成をおこなってパフォーマンスを改善した。これはテールにあるアイテムに対するユーザ行動履歴を偏ってサンプリング・合成することにより、ユーザ履歴を拡張する。情報理論にもとづくことにより公正性を担保し、実験でも良い結果。source : https://github.com/lkp411/BiasedUserHistorySynthesis

The Fault in Our Recommendations: On the Perils of Optimizing the Measurable

推薦システムは測定しやすい数値に最適化することにより、本当のユーザーの期待にこたえられていないのではないか？例えば、大多数の人は人気のあるコンテンツが好きで、一部の人はニッチなコンテンツが好き。このような個人の傾向は最初はわからないが、そのうち学習できる。なので、推薦品の中に人気のもの、ニッチのものを混ぜる手法を提案する。これにより、期待に応える度合いも、エンゲージメントも同時に高めることがか確認できた。「ハイリスク・ハイリターン」の商品を推薦することで、エンゲージメントを大きく損なうことなく期待に応えるアイテムを発見することができる。

Fair Reciprocal Recommendation in Matching Markets(CA)

マッチングアプリでも推薦は重要。公平性を保ちなが相性のいいパートナーと出会いたい。 相互推薦システムでは、両サイドが興味をもったらマッチング成功になる。さらに、みえる候補はなるべくすくない方がいい。また、公平分割理論の公平原則、嫉妬のない分配を導入した。マッチ数最大化で推薦システムを構築すると機会の不平等が起こる。このトレードオフに対応するため、ナッシュ社会厚生関数を導入、実験したら良い結果。

ナッシュ社会厚生関数

「Nash Social Welfare Function（ナッシュ社会厚生関数）」は、資源の分配における効率性と公平性を両立させるための基準として用いられる指標です。この概念は、著名な経済学者ジョン・ナッシュによって提唱されました。ナッシュ社会厚生関数は、特に公平分割理論に関わる問題において重要な役割を果たしています。

基本的な概要

ナッシュ社会厚生関数は、各参加者の効用の積（product of utilities）によって測定されます。具体的には、次のように定義されます：

$$ NSW(x_1, x_2, ..., x_n) = U(x_1) \times U(x_2) \times ... \times U(x_n) $$

ここで、$ U(x_i) $は参加者$i$の効用を示します。この関数を最大化することによって、資源の分配が効率的で公平であることを目指します。

特徴と利点

  • 効率性：効用の積を最大化することで、配分のパレート効率性（Pareto Efficiency）を確保します。パレート効率性とは、誰かの得を犠牲にせずには誰かをより良い状態にできない状況を意味します。
  • 公平性：効用の積が最大化されることで、特定の一部の人々に過度な集中が防がれます。これは、全体の効用がバランスよく分配されることを促します。

応用

  1. 経済学：

    • 公共財の分配や市場メカニズムの設計において、この関数が使用されることがあります。
    • 例：「政府が公共のリソースをどのように分配するかを決定する際の指標として使用される。」

  2. 組織のリソース配分：

    • 企業や組織内における資源やタスクの分配において、公平性と効率性を両立させるための指標として使用されます。
    • 例：「プロジェクトチームにおけるタスクの分配や、従業員の報酬設計に応用される。」

  3. ゲーム理論：

    • 交渉や協力問題における戦略的な意思決定において、この関数が重要な役割を果たします。
    • 例：「複数の利害関係者が関与する交渉において、公平な合意を導くための基準として使用される。」

ナッシュ社会厚生関数は、公平性と効率性を同時に追求することが求められる多岐にわたる分野で、その理論的・実践的な応用が期待されています。

Session 4: Collaborative Filtering

The Role of Unknown Interactions in Implicit Matrix Factorization — A Probabilistic View

Matrix factorization の一種で、implicit feedback を扱うiALS がある。implicit feedback は収集しやすいため推薦の適用範囲を広げる可能性があるが、スパースやインバランスな特徴は推薦アルゴリズムで扱う場合には大変。

iALS において、未知のデータは 重みづけを軽くした上でnegative なサインとして扱うのが一般的。これを、未知 に確率的に positive / negative の分布を与えて matrix factorization することにより計算量をそれほど増やさずに 推薦のパフォーマンスが改善した。

この論文では iALS に ロジスティック回帰を適用した場合に得たインサイトについて説明する。さらに、full-rank EASE モデルのロジスティックバージョンを紹介する。実験したら良い感じ。さらに、factorization と オートエンコーダモデル間のウェイティングのニーズ間の食い違いを論じ、この手法に対する理解を深める。

Adaptive Fusion of Multi-View for Graph Contrastive Recommendation

推薦システムで、GCL がよい成果を上げているが、対象学習のためのユーザー・アイテムのモデリング時に必要な情報がおちてしまったり、ノイズがはいってしまうという問題があった。この問題を解決するために Adaptive Fusion of Multi-View Graph Contastive Recoomendation (AMGCR) モデルを提案する。まず、weight adjustment, feature transformation, neighbor aggregation, attention mechanism に着目して edge のウェイトを学習する View Generator をつくった。その後　Adaptive multi-view fusion module を採用し、さらに、contrastive view にリファインメント戦略を適用した。実験ではよいかんじ。ソース : https://github.com/Du-danger/AMGCR

Low Rank Field-Weighted Factorization Machines for Low Latency Item Recommendation

factorization machine はスパーズなデータでもユーザーアイテムの関係を捉えられる点、推論のコストがとても低い点から広く普及している。

発展形としてfield aware またはfield wiseなものがあるが、これは推論時にユーザー、アイテム、コンテキスト、すべての組み合わせでの再計算をおこなうため、コストが高い。ヒューリスティックにフィールドを減らして対応する

そこでアイテムの数字だけ利用する方法を提案する。人手で選択するより、精度よく、レイテンシーは大幅削減できた。テストに使ったカードは以下。

https://github.com/michaelviderman/pytorch-fm.

Unlocking the Hidden Treasures: Enhancing Recommendations with Unlabeled Data

CFのネガティブサンプル問題を解決するために、ラベルのないアイテムをニュートラルとネガティヴに分類するPNNという手法がある。これは、ネガティブとニュートラルに分類するのが難しいこと、適切なロスファンクションがない、という課題があったが、これらを克服する方法を提案する。実データで検証したらいい感じ、シンプルなmatrix factorization に適用するだけで良い性能がえられた。コードは

https://github.com/Asa9aoTK/PNN-RecBole.

One-class Matrix Factorization: Point-Wise Regression-Based or Pair-Wise Ranking-Based?

ペアワイズの手法の再現を試みたが、ポイントワイズと比較して良い性能を得られなかった

Revisiting BPR: A Replicability Study of a Common Recommender System Baseline

BPRはさまざまな論文でSTOAの比較対象として扱われることがあるが、データセットや評価により、最大50%もパフォーマンスが出ないことがあるから注意が必要。ハイパーパラメーターなど検証により得たポイントを紹介する

Session 5: Cross-domain and Cross-modal Learning

Improving Adversarial Robustness for Recommendation Model via Cross-Domain Distributional Adversarial Training

敵対的な攻撃を守る学習は昨今のテーマ。今回他のドメインのデータから学習したものを適用するDanとCDATを紹介する。検証により堅牢兵は高まった。ソースはここ。 https://github.com/HymanLoveGIN/CDAT.

MLoRA: Multi-Domain Low-Rank Adaptive Network for CTR Prediction

CTR予測においてマルチドメインに適用すると、重要な特徴が丸められて精度がさがることがある。そこでmlora というLoraモデルをドメインごとに用意する方法を提案する。実際のアリババでabテストしても良い感じだった。

Instructing and Prompting Large Language Models for Explainable Cross-domain Recommendations

LLMをつかったCDR の紹介。CDR の難しさはデータのスパーシティ。両方のドメインに共通するデータが必要。そこをブリッジするのがLLM。ユーザにソースドメインの嗜好とターゲットドメインのアイテムの好きの順番をきき、LLMにプロンプトで情報をわたし、推薦とその理由を回答するという方式。実験をしたら良い感じ。

Cross-Domain Latent Factors Sharing via Implicit Matrix Factorization

推薦システムではデータが疎であることが課題になりがちで、それを補うために「クロスドメイン」の推薦を用いることもあるが構造が複雑になる。対して、シンプルな matrix factorization もまだまだ有効。ここでは、これらの利点と欠点を補う CDIMF を紹介する。ここでは、うまいこと latent factor をまなんでいく。実験をしたらいい感じ。

Discerning Canonical User Representation for Cross-Domain Recommendation

既存のCDR は 両ドメインに共通するユーザの嗜好に基づいて推薦システムを拡張するものだが、これはユーザに依存しすぎ。ドメイン間の情報の移行を可能にするCA という手法もあるが、これは共通点のみモデル化し、差異をモデルにできていない。ドメイン共通のユーザ表現とドメインの潜在スペースを同時に学習する DiCUR-CDR を紹介。同時に学習することにより既存手法より良い結果。

Joint Modeling of Search and Recommendations Via an Unified Contextual Recommender (UniCoRn) Netflix

(Abstract なし）

2023年を振り返る

あと1時間くらいかな。今年も振り返ります。

できごと

2月
関西CTO のイベントに登壇。
flxy.jp

4月
取締役になった。
corp.synergy-marketing.co.jp

5月
LOVED の翻訳レビューに参加していた （→ 7月に出版された）

9月

CTO Night & Day に参加。登壇もしたよ。 aws.amazon.com

Recsys も行った。久しぶりの海外一人旅。 recsys.acm.org

本

読んだ

印象に残っているのはこのあたり...

  • Humankind : 希望の歴史 (上下）
  • エッセンシャル思考
  • 他者と働く
  • フィフティピープル　となりの国のものがたり
  • スタンフォード大学の100%人気講座 実力を発揮する方法（コーチングで教わった本）
  • INSPIRED
  • 天才はあきらめた
  • 世界一流エンジニアの思考法 :star:

他にもある。

読みかけはいっぱい。 アフターデジタル UXグロースモデル / プロダクトマネージャーのしごと とかはよみきる

漫画

一気読み

続き読み

  • ワンピースわの国編
  • 紛争でしたら八田まで
  • きのう何食べた

コンテンツ

オードリーにはまって、あちこちオードリーと LIGHTHOUSE を契約して見た

遊び

2月 名古屋の岡本太郎展、行った taro2022.jp

FIRST SLAM DUNK 見に行った。 slamdunk-movie.jp

5月 怪物 見に行った。

11月 パンタレイ展 kyotocity-kyocera.museum

旅行とごはんは物足りない感じ。

仕事

3年間 の CTO で何をやっていたんだ、と思うくらい、わけがわからずずっと溺れていた。 取締役といってもなにを取り締まるっていうんだ、という気持ちで、わりと行動にブレーキがかかっていました。やったことないことにチャレンジしていろいろうまくいかなかったし。弱い。弱すぎる。活動していないわけではなく、むしろいろいろやっているが、結局インパクトを残していないから、凪だったところがとても不甲斐ない。

ただ、3年間 CTO といいながら、結局 開発部長的に社内で開発組織とそれ以外をつなぐ役割をしていたんだ、と気づきました。今後は、その役割は任せつつ、シナジーマーケティングと社会をつなげる役割をしていこう、と思っています。そう考えると、やることもだいぶ変わってくるし、必然対外的なアウトプットを（無理矢理にでも）増やしていく。

技術

Recsys、リアル参加できたのはよかった。 5月、ちょっとRust やって、それ以来プログラムもあまり。Bedrock はちょっとさわったけど。つくってなんぼですよね。

家

相変わらず汚い。そうじゃない。 ただ、お散歩するようになったから、新しい習慣を今から獲得できるはず。あきらめない。 いろんな組み合わせで2人で出かけることが多かった。 とても楽しい。晩ご飯でもわりとなごやかに話すし。残り少ないがたのしもう。

遊び

Recsys が最大の遊びだった。ひとり旅は好きなので、もう少しいきたい。 美術館 / サブスクのバラエティ / 漫画 が 好き。根っからのインドア。 でも、そろそろゴルフもスコアあげに。

なので、2024年にしたいこと

  • 仕事、対外的な（よい）インパクトがあるよう、やらないことをしっかり決め、やることをやりきる（手をつくす）
  • 週末は遊ぶ
    • コード書く
    • 本や漫画を読む
    • 映像、見る
    • 映画見にいく
    • 美術館、いく

2022年を振り返る

あと、1時間くらいかな。振り返ります。

仕事

組織はしっかりかわりました。どう変わったかは、そのうち会社のブログにのるので、去年に続きここでは個人的な話をします。

振り返ると、去年書いてあったことを、なんとなく実現しているので、私えらい。

目標を達成するためのチーム編成になっていない / チームに対してゴールを示せていない 脳に酸素を行き渡っている感覚もあるので、今年は（も）しっかり壁うって、叩きのめされようと思っています。

仕組みを変える部分に関しては、多分に私ではない人が手を尽くしたからですが、「ゴールを達成するためのチーム」に変化させられました。だからあとはゴールを達成するだけだ。

AWS Summit 登壇、グロービス参加などの機会をもらい、それは感謝しています。実はグロービスは、お客様である企業についてのいろいろな視点をもらえるよい機会になりました。いや、本当にブレークスルーになったんですよ。個人的には Kotlin Fest のスポンサーしたのも、楽しかったです。

ただ、個人的には１年中、迷いに迷ってしまった。さすが、3年目。

相変わらず、「ここが課題だな」とラベルづけするところと、「だから、ここをめざそう」とゴール定義するところに、ロジカルさがない。エビデンスがない。説明責任を果たせていないのは、基準がないからか。アプローチも、小さくステップを踏みながらやっているつもりなのだが、歩幅があっていない可能性もあります。そもそも、ゴール（締め切り）逆算方式だし、思いついたことに対して説明するための定量的な根拠を示すのに労力を割きたくないから、だと思うけど、それはそれでよくないですね。ただ、そのためには、比較対象の外の世界をみていくしかないような気がしています。あと、実は手数が多くやってるだけで、直接なにかにつながっていない施策も多いため、メンバーが「？」となっていることが多いかもしれないです。私の中ではいろいろなことがつながっているんですが、みんなの中では、いろいろ「あれ、やったけどどうなったんだろう」的なことは多いんじゃないか。その辺りも、ロジカルじゃないの、よくないなあ。

とはいうものの、2023年はやるしかない状況。また、やったことないことやってみる（呑み込みは悪いので、必ず最初はうまくできない）ので、またしばらく、そこの手数を増やすしかない。時間が有限なので、手を抜く方の時間を測定し、減らしていく。個人的にも自動化と効率を。

技術

GW に Coursera の ブロックチェーン学んだり、React したりした。あと、Recsys にも参加。外部イベントは他には pmconf 、Snowflake、kotlin fest、あと CTO協会イベントに少し参加している程度なので、もう少し外にでたい。

実は今年の初めに Atcoder 緑になっている。そこできれてしまったので、またプログラムを書かない日々。そりゃ、ものがつくれなくなって、ものづくりの勘もなくなるよ。

でも、来年は増やしていきたいです。

家

去年の私と同じことを思っていて、びっくり。忙しさは、2021年以上だったので、2023年はまじでめりはりを。

私の仕事が忙し過ぎて、家族とあまり会話していないように思う。 もう一緒に住むのもあと2-3年、かもしれないし、目の前の人との時間を大事にしたい。

遊び

ずっと変わらないなあ

結局技術的なインプットと（一人）旅が私の心から楽しいことだと再確認したので、

なので、2023年にしたいこと

  • コード書く
  • 臆せず、いろんな人と話をする 　 - 新しい人も
    • 古い人も
  • リアルRecsys 参加 → ついでにアジア放浪
  • そこで会話ができるよう、英語やるか

RecSys 2022 Day3

Session 9 Large-Scale Recommendation

Optimizing product recommendations for millions of merchants

  • Shopify の Industrial Session
  • A/A tests をする 。A/B テストではなく
  • テストの仕方
    • 別のモデルのリストを同じ画面に表示する
  • Differnet models perform better for different shopping
    • よい推薦モデルがショップによって異なるため、それぞれにベストなものを提供する
    • いくつかのモデルを使い分けている
  • Collaborative Filtering , Contents based Filtering
  • Long-tail の場合
    • コンテンツベース、はひとつの解

A GPU-specialized Inference Parameter Server for Large-Scale Deep Recommendation Models

  • DeepLab (Taboola engineering) : 広告とか
  • Challenge
    • Contents changing / User intent changing / model must change
  • ETL / Data validation / Train / Model validation / Deployment
  • Solution → transfer learning
  • システム構成：airflow spark tensorflow k8s
  • metrics
    • offline : いっぱい AUC とか
    • online : 現実のやつ

Hirechal prameter NVIDIA

  • NVIDIA の Industrial Session
  • Transformer などの学習や推論に最適化したサーバをつくったよ（という話だとおもう）
    • メモリの持ち方？
  • 前提知識が足りないものはわからない量が多いが、たのしい

Evaluation Framework for Cold-Start Techniques in Large-Scale Production Settings

  • Outbrain : オンライン recommendation : news とか
  • cold start evalution framework
    • ニュースはほぼほぼコールドスタートなので
  • continious flow of cold-start items
  • fast cold-start research
    • 新しく投入されたニュースをどのシーンで推薦したらよいか、早く学習する
  • Framework
    • offline simulation
    • how to choose?
  • AB テストできない / skew だから
  • 全リクエストをわける
    • このへんはもうちょっとみたい
  • exploration にはいろいろなテクニックをつかってる

Timely Personalization at Peloton: A System and Algorithm for Boosting Time-Relevant Content

  • PELOTON
  • Fitness content platform
    • personalizing content discovery experience
  • タイムセール、顧客体験を減らせずにどれくらい露出を増やすか
  • 二つの方法
  • ビヨンセ

EANA: Reducing Privacy Risk on Large-scale Recommendation Models

  • Google さん
  • 機械学習などにデータを活用する場合、プライバシーがわからない、かつ、データの分布やパターンが変わらない程度にデータをマスク（加工）する
  • SGD / DP-SGD とかある
  • DP-SGD : めちゃくちゃcompute heavy
  • EANA = embedding-aware noise addition
  • ノイズの加え方を工夫して、より簡単にデータの活用ができるようにした
  • Privacy Tech だなあ

https://www.youtube.com/watch?v=6U2DQ8gkv4c