逐次最小二乗法(RLS: Recursive Least Squares)ーパラメータ同定に用いられる時系列データの回帰手法!ー

統計・機械学習

制御関連の業務では時系列のデータを主に扱い,時系列データから各種パラメータを同定したい場面は数多く存在します。パラメータ同定のための最も簡単な手法は,通常最小二乗法(OLS:Ordinary Least Squares)です。

最小二乗法を用いた回帰分析ー①線形単回帰分析ー【Pythonプログラム付】
統計や機械学習において最も基本的な回帰分析手法は(通常)最小二乗法(OLS:Ordinary Least Squares)です。その中でも説明変数(x)が一つしかない単回帰分析は,Microsoft Excelの「近似曲線」機能etcで使用...

しかし,対象とするパラメータが時間により変動する場合には,通常最小二乗法では予測誤差が大きくなる場合があります。そこで登場するのが,忘却係数を導入した逐次最小二乗法(RLS: Recursive Least Squares)です。本記事では,逐次最小二乗法の誤差関数の定義から漸化式の導出まで解説します。

大きい画面で表示したい方はこちらからご覧ください。

クリエイティブ・コモンズ・ライセンス

スライドの目次
  • (復習)最小二乗法で扱う誤差関数
  • 時系列データの場合は?
  • 時系列データの場合の問題設定
  • 時系列データの場合の2つの問題点
  • 問題①:パラメータの変動
  • 過去のデータをどんどん忘れるように工夫!
  • 問題②:メモリの限界
  • まとめると…
  • まずは普通に誤差関数を解いてみる
  • 目標の再確認
  • 漸化式の導出
  • 導出した漸化式の解釈
  • 単回帰から重回帰への拡張
  • まずは誤差関数の最小化
  • 漸化式の導出
  • 逐次最小二乗法の活用例

参考文献

  • https://www.youtube.com/watch?v=gHSiFqO23TE

質問、コメント等ございましたら、下部のコメント欄,もしくはメールやTwitterよりご連絡ください。

コメント

タイトルとURLをコピーしました