複雑な時系列を予測するリザバー計算の設計指針、鍵は信号の「時間スケール」 ～高精度な予測に向けたリザバー計算のパラメータ設計指針を提案～

【研究の要旨とポイント】

エコーステートネットワーク（ESN）は低い学習コストで高精度な時系列予測が可能な一方、パラメータ設定によって予測精度が大きく変わるため、従来は試行錯誤や網羅的な探索が必要でした。

今回、ESNにおいて、予測対象の時間スケールに着目したパラメータ設計指針を提案しました。

時間スケールをそろえたカオス時系列を用いて数値実験を行い、時間スケールが同じであれば、高い予測精度を示すパラメータ領域も類似した構造になることを明らかにしました。

本成果は、複雑な時系列信号を予測するリザバー計算モデルを効率的に設計するための基礎的知見となることが期待されます。

【研究の概要】

東京理科大学大学院 工学研究科 情報工学専攻 池口研究室の吉田 しおん氏 （2025年度 修士課程修了）、同大学 工学部 情報工学科の澤田 和弥助教、池口 徹教授の研究グループは、時系列予測に用いられるリザバー計算（＊1）の一種であるエコーステートネットワーク（ESN, ＊2）について、予測対象となる時系列信号の時間スケールが、特にスペクトル半径（＊3）をはじめとするパラメータ設計に重要な役割を果たすことを明らかにしました。

ESNは、リカレントニューラルネットワークの一種でありながら、入力層からリザバー層への結合重みと、リザバー層内部の結合重みをランダムに初期化して固定し、出力層のみを学習することで、比較的低い学習コストで高精度な時系列予測を行える手法です。一方で、その予測性能は、リザバー層のニューロン数やスペクトル半径などのハイパーパラメータ（＊4）の設定に大きく左右されます。そのため、これまでは予測対象となる時系列信号ごとに試行錯誤や網羅的な探索を行い、適切なパラメータを特定する必要がありました。そこで本研究では、カオス的な振舞いを示す複数の力学系から得られる時系列信号を対象に、時系列信号の時間スケールを無相関時間（＊5）に基づいて調整し、ESNによる1ステップ先予測の精度を評価しました。

カオス時系列（＊6）を用いた数値実験の結果、元となる力学系が異なっていても、時間スケールをそろえると、高い予測精度を示すパラメータ領域が類似した構造になることが分かりました。さらに、時間スケールが長い時系列信号、すなわち変化が比較的ゆっくりした時系列信号では、スペクトル半径を1より大きく設定した領域で高い予測精度が得られる傾向が確認されました。

これらの結果は、ESNのハイパーパラメータを対象時系列ごとに経験的に探索するのではなく、時系列信号の時間スケールを手掛かりに設計できる可能性を示すものです。本成果は、複雑な振舞いを示す時系列信号の解析・予測に用いられるESNをはじめとするリザバー計算モデルを、より効率的に設計するための基礎的知見となることが期待されます。

本研究成果は、2026年7月1日に国際学術誌「NOLTA, IEICE」にオンライン掲載されました。

　

【研究の背景】

時系列信号を高精度に予測することは、非線形解析や機械学習における重要な課題の一つです。なかでもリザバー計算は、低い学習コストと高い予測性能を両立できる計算の枠組みとして知られており、時系列予測に適した手法として注目されています。

リザバー計算の代表的なモデルであるESNでは、入力層からリザバー層への結合重みと、リザバー層内部の結合重みをランダムに初期化して固定し、出力層のみを学習します。このため、内部の多数の結合を反復的に学習する従来型のリカレントニューラルネットワークと比べて、効率的に時系列予測を行えるという利点があります。

一方で、ESNの予測性能はハイパーパラメータの設定に強く依存します。代表的なものとして、リザバー層のニューロン数や、内部結合行列のスペクトル半径が挙げられます。スペクトル半径は、過去の状態が現在の状態にどの程度影響するかを制御するパラメータです。ESNを実際の予測タスクに用いる際には、対象とする時系列ごとに試行錯誤や網羅的な探索によって適切なハイパーパラメータを決める必要がありました。

これまで、記憶容量や遅延容量などを用いて、リザバー層が過去の入力情報をどの程度保持できるかを評価し、ESNの予測性能との関係を明らかにしようとする研究が行われてきました。特に、遅延容量の最適値は、予測対象となる時系列の自己相関と密接に関係することが報告されています。しかし、こうした記憶性能だけでは予測精度を一意に説明できず、高い予測精度を得るためには、依然としてハイパーパラメータを広く探索する必要がありました。

そこで本研究では、予測対象となる時系列信号の時間スケールに着目しました。時系列信号には、短い時間で大きく変化するものもあれば、比較的ゆっくり変化するものもあります。研究グループは、このような時間スケールの違いが、ESNの適切なパラメータ設定を決める重要な手掛かりになるのではないかと考えました。

研究グループはこれまで、複雑な振舞いを示す時系列信号の解析や予測に取り組んできました。近年注目されているリザバー計算へ研究を広げるなかで、ESNのパラメータ設計を、予測対象の時間スケールという観点から捉え直すことを目指しました。

【研究結果の詳細】

本研究では、カオス的な振舞いを示す複数の非線形力学系から得られる時系列信号を対象に、ESNによる1ステップ先予測を行いました。異なる力学系では、同じ時間刻みで時系列信号を生成しても、状態が変化する速さが異なります。そこで研究グループは、無相関時間を用いて、各時系列の時間スケールを定量化しました。

次に、無相関時間が同じ値になるように時系列信号をサンプリングし直し、時間スケールをそろえたうえで、ESNのリザバー層のニューロン数とスペクトル半径を変化させました。その結果、元となる力学系が異なっていても、時間スケールが同じであれば、高い予測精度を示すパラメータ領域が似た構造になることが分かりました。

さらに、時間スケールが短い時系列信号ではスペクトル半径が1付近の領域で高い予測精度が得られたのに対し、時間スケールが長い時系列信号では、スペクトル半径が1を超える領域で高い予測精度が得られる傾向が確認されました。この傾向は、学習データ点数を固定した場合だけでなく、学習データの軌道長がそろうようにデータ点数を調整した場合にも共通して見られました。

これらの結果は、ESNのパラメータを対象時系列信号ごとに探索する、もしくは、経験的に決定するのではなく、予測対象の時間スケールを手掛かりに、高い予測精度が期待できるパラメータ領域を絞り込める可能性を示しています。本成果は、複雑な振舞いを示す時系列信号を予測するリザバー計算モデルをより効率的に設計するための基礎的知見となることが期待されます。

本研究を主導した池口教授は、「本研究で用いているリザバー計算の応用の一つが時系列信号の予測です。本研究成果によって種々の複雑現象の予測が可能となれば、さまざまな場面で役立つと思います」と、コメントしています。

• 本研究は、日本学術振興会（JSPS）の科研費（JP24K23902、JP20H00596、JP21H03514、JP22K18419、JP23K21706、JP25K03189、JP25H00447）および東北大学電気通信研究所共同プロジェクト研究（R05/A19、R05/B13）の助成を受けて実施したものです。

【用語】

＊1　リザバー計算

時系列データの予測や分類に用いられる機械学習の枠組みの一つ。出力層だけを学習するため、比較的低い学習コストで時系列予測が可能。

＊2　エコーステートネットワーク（ESN）

リザバー計算の代表的なモデル。入力層、リザバー層、出力層から構成され、入力層からリザバー層への結合重みと、リザバー層内部の結合重みをランダムに初期化して固定し、出力層のみを学習する。過去の入力の影響がリザバー層の状態に反映されるため、時間的な変化を含むデータの予測に用いられる。

＊3　スペクトル半径

　リザバー層の内部結合行列における、固有値の絶対値の最大値。過去の入力情報がリザバー状態にどの程度残るかと深く関係する。

＊4　ハイパーパラメータ

機械学習モデルが学習によって自動的に決める値ではなく、学習の前に人が設定する値のこと。ESNでは、リザバー層のニューロン数やスペクトル半径などがこれに当たる。

＊5　無相関時間

時系列の自己相関が一定の値まで低下するまでの時間。本研究では、自己相関が1/eを下回るまでの時間として定義し、時系列信号の時間スケールを表す指標として用いた。無相関時間が長いほど、時系列は比較的ゆっくり変化しているとみなせる。

＊6　カオス時系列

決定論的な規則に従っているにもかかわらず、初期状態のわずかな違いが時間とともに大きな違いへと発展する性質を持つ時系列信号のこと。本研究では、カオス的な振舞いを示す複数の非線形力学系から得られる時系列信号を対象に、ESNによる予測性能を評価した。

【論文情報】

雑誌名：	NOLTA, IEICE
論文タイトル：	Effect of time scale on chaotic time series prediction using Echo state network
著者：	Shion Yoshida, Kazuya Sawada, and Tohru Ikeguchi
DOI：	10.1587/nolta.17.998

※PR TIMESのシステムでは上付き・下付き文字や特殊文字等を使用できないため、正式な表記と異なる場合がございますのでご留意ください。正式な表記は、東京理科大学WEBページ（https://www.tus.ac.jp/today/archive/20260710_1279.html）をご参照ください。