半熟仮想とソニーの共同研究チームが推薦システム分野のトップカンファレンス「RecSys」にて論文採択

半熟仮想株式会社（本社：東京都杉並区、代表取締役社長：成田悠輔 以下、当社）は、当社とソニーグループ株式会社（本社：東京都港区、会長 兼 社長 CEO 吉田 憲一郎 以下、ソニー）の共著論文「Evaluating the Robustness of Off-Policy Evaluation」が、推薦システム分野の国際会議「RecSys 2021」(15th ACM Conference on Recommender Systems) に採択されたことをお知らせいたします。

本研究は、ソニー R&Dセンターの宇田川拓麻氏、舘野啓氏、当社共同創業者兼科学統括の齋藤優太、当社代表取締役・イェール大学助教授の成田悠輔、当社インターンでスタンフォード大学の茂木一輝氏、当社インターンで東京工業大学の清原明加氏によるものです。

「RecSys」は世界中の研究者によって毎年開催される国際会議で、「KDD」などと並び、機械学習・データマイニングの分野で権威あるトップカンファレンスの一つです。この度採択された論文は2021年9月に開催される学会にて口頭発表を行う予定です。 

■背景
様々なウェブサービスにおいて、サービスの質を向上させるために、データ駆動の意思決定アルゴリズムが頻繁に導入されるようになっています。例えばオンラインショッピングストアなどにおけるクーポン配布の問題においては、ユーザの属性や過去の購買行動に応じて、「誰にどのようなクーポンを配るべきか」という意思決定をデータに基づいて最適化する取り組みが行われています。

このような応用においては、意思決定アルゴリズムの性能を正確に評価することで、アルゴリズムを安全に運用する必要があります。意思決定アルゴリズムの性能を評価する方法で最も単純な方法は、評価対象のアルゴリズムをサービス上で一定期間動作させてその挙動を観察する「オンライン評価」です。オンライン評価により、意思決定アルゴリズムをサービスで用いたときの性能を正確に評価できます。しかし、仮に評価対象の意思決定アルゴリズムの性能が悪かった場合には性能評価の期間中に損益を被ってしまう可能性があるため、オンライン評価にはビジネスの現場において多用できないという課題があります。

このオンライン評価の課題を解決すべく、過去の蓄積データのみを用いて新たな意思決定アルゴリズムの評価を行う「オフライン評価」と呼ばれる分野が注目を集めています。オフライン評価の技術を駆使することで、オンライン評価が抱えるリスクを被ることなく、新たな意思決定アルゴリズムの性能評価が可能になります。

当社とソニーはこのオフライン評価の技術の実活用を可能にすべく、実サービスで収集されたデータを活用した共同研究開発を行なっています。

■研究の概要
このような背景のもと、今回採択された共著論文「Evaluating the Robustness of Off-Policy Evaluation」では、意思決定アルゴリズムのオフライン評価手法の安定性を評価するための実験方法を提案しました。また開発した実験方法をさまざまなデータに対して適用、広範なオフライン評価手法の安定性を評価しました。

実際のビジネス応用では、あるオフライン評価手法を多くの意思決定アルゴリズムの性能評価に活用することがあります。例えば、意思決定アルゴリズムの候補が10個あった際に、その中で最も高性能なアルゴリズムをオフライン評価を用いて判断することがあります。その場合、オフライン評価を10個の候補アルゴリズムに適用することになり、オフライン評価手法にはこれら全ての候補アルゴリズムの性能を正確に評価することが求められます。また、オフライン評価手法には事前にチューニングすべき設定パラメータが多く存在しますが、適切な設定パラメータを見つけるのは困難です。これらのオフライン評価の実活用における事情を踏まえると、評価対象となる意思決定アルゴリズムや設定パラメータが変化したとしても、安定して正確なオフライン評価を実行できることが、意思決定アルゴリズムの安全な運用を実現するために重要です。

本研究では、「評価対象の意思決定アルゴリズムや設定パラメータの変化に対するオフライン評価手法の安定性」を評価するための実験方法を提案しました。また、その実験方法を人工データや実データに適用することで、既存のオフライン評価手法の安定性の検証を行いました。特に、ソニーのサービス上で収集された実データをオフライン評価手法の性能の検証に用いた点が高く評価されました。さらに、本論文における実験に用いたソフトウェアも全世界の研究者などが活用可能な形で公開する予定です。

■今後の展望
今回RecSys2021に論文が採択された「オフライン評価」の技術は汎用性が高く、より精度の高い予測を目指して改善を続けて参ります。本技術を通じて、人工知能による意思決定支援技術のさらなる発展と実社会における人工知能技術導入の際に直面する様々な課題に取り組む一助になることを目指し、今後も研究開発やソフトウェア公開を行なっていく予定です。

■当社について
半熟仮想株式会社は、データ・アルゴリズム・数理・思想を組み合わせ、事業や政策、そして社会の未来像をデザインしています。特に「市場設計」「反実仮想機械学習」「因果推論」といった技術では国内屈指の人材と技術を持ち、多数の企業との共同事業・研究や独自の基礎研究・ソフトウェア開発などを行っています。これらの活動を産学や国境の壁を超えて行うのが、イェール大学・コーネル大学・MIT・スタンフォード大学・東京大学・東京工業大学・東京芸術大学など所属・出身で事業経験も備えた科学者やエンジニアです。