1 / 45

回帰分析 基本編 （諏訪用）

回帰分析 基本編 （諏訪用）. モデル作成 入出力（ U, y) の実 データから対象特性の数式モデル作成. 時間. 動的 dynamic. 静的 static. 構造. 自己回帰法. 回帰分析. 線形. AR model MA model ARMA model. 対象. y. U. ? Black box. Neural network. 出力. 入力. 非線形. GMDH Group method of data handling. Volterra series expression. 回帰分析の教材.

mio
Download Presentation

回帰分析 基本編 （諏訪用）

An Image/Link below is provided (as is) to download presentation Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author. Content is provided to you AS IS for your information and personal use only. Download presentation by click this link. While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server. During download, if you can't get a presentation, the file might be deleted by the publisher.

E N D

Presentation Transcript

  1. 回帰分析基本編（諏訪用） モデル作成 入出力（U, y) の実 データから対象特性の数式モデル作成 時間 動的 dynamic 静的 static 構造 自己回帰法 回帰分析 線形 AR model MA model ARMA model 対象 y U ? Black box Neural network 出力 入力 非線形 GMDH Group method of data handling Volterra series expression 回帰分析の教材 http://www.rs.kagu.tus.ac.jp/~ohnari/sim/sim.html 041111

  2. 掃き出し法 Sweep out method

  3. 逆行列の計算法

  4. ２元連立方程式の求解　行操作

  5. ２元連立方程式の求解　数式画面

  6. ３元連立方程式の求解（課題） 解答 X = 1 Y = 2 Z = 3 解答経過は別に掲載

  7. 回帰分析とは　 • 統計学の源流：　優生学 • Darwin の弟子 F. Galton は優生学の問題を統計学の方法で • 取り扱い，回帰分析・相関分析の基礎を築いた。 • 1） 回帰曲線 • ゴルトンは｢親の背の高さは子供に • 遺伝するか」を実証的に調べた。 • x に対する y の回帰曲線 • x: 独立変数，説明変数 • y: 従属変数，目的変数 • 回帰（regression) • y は y に帰っ • ていった｡

  8. 回帰分析とは　式と仮定

  9. 正規方程式

  10. 単回帰分析(1) 残差平方和 Sr = Σ( yi– ym )

  11. 単回帰分析(2) Sr a ＾ b ＾ Sr

  12. 多重回帰分析の主要点 ・A行列/正規方程式のデータセット　　の仕方 ・掃き出しを重ねたときのA行列の変　化の数式表現

  13. 掃き出し法による重回帰分析の筋道 (なまの平方和・積和行列)（k+2行，k+2列）

  14. １回掃き出した結果 A. 平方和・積和行列 平均値 平方和 偏差積和

  15. ２回掃き出した結果 A..

  16. ３回掃き出した結果 A…

  17. ４回掃き出した結果 A…. 偏相関係数算出用の逆行列を求めるために，k+2行, k+2列まで掃き出す

  18. 回帰分析　式での説明 (1)

  19. 回帰分析　式での説明 (2)

  20. 回帰分析　式での説明 (3)

  21. 回帰分析　式での説明 (4)

  22. 回帰分析　式での説明 (5)

  23. t 検定と変数減少法

  24. 回帰分析の出題（規定問題） • 理論上，y = x1 + x2で表される現象を， • 実験・観測した。データから，最小２乗法に • よる近似モデルを２種類作る。 • (a) 独立変数として，x1 , x2の２つを選び， • 　推定式　　y = b0 + b1x1+ b2x2 • 　の各係数 biを回帰分析により同定する。 • (b) (a)で得た x1, x2の中で有意性の高い変数を１つ選び，(a)と同様の回帰分析を行う。 • 　変数減少後の推定式　　y = b0 + bixi

  25. 規定問題データ 各人の誕生日の奇偶に応じてデータを選択のこと。 規定問題の 評価：　 （散布図）， （計算）， （考察）

  26. 規定問題の考察手順(1) • （1）散布図（ y vs. x1と y vs. x2）を描き，直感でそれぞれの勾配を求める。 • (a) あらかじめ x2 vs. x1の散布図を描いておく。データは， x1 = 0, = 1, = 2, = 3 ...., x2 = 0, = 1, = 2, = 3 ....の近傍でばらついている。各変数の値が近いものは，それぞれ１つのグループにする。

  27. 散布図 x2 vs x1

  28. 規定問題の考察手順(1) • (b) 各散布図上（ y vs. x1と y vs. x2）で，パラメータ（隠れている変数）x2 ( x1 ) のグループごとに勾配線を目視で定規で引く。 • (c) それらの直線の勾配をまとめて（平均を取るなり，目の子で引くなり），一つの直感的な勾配を求め，その勾配の直線を散布図上の任意の場所に引く（切片が不明のため）。

  29. 散布図 y vs x1

  30. 散布図 y vs x2

  31. 規定問題の考察手順(2)(4) • （2）各種統計量を算出すること。 • ｜相関係数｜≦１，｜自己相関係数｜＝１ • （3）得られた回帰直線を散布図上に描き，直感的勾配と比較する。 • （4）各変数の t 検定を行う。すなわち，｜t｜値（絶対値）の一番小さい値が t 分布表の値 t(自由度，0.05)より小さければ，その変数を削除して再度回帰分析をする。

  32. 規定問題の考察手順(4)(5） • （4つづき）規定問題では，この条件が成立しなくても，変数減少法の勉強のために｜t｜値の小さいほうの変数を強制的に削除して分析する。 • （5）変数減少の結果，回帰係数の推定値である勾配を図上に描き，その勾配を，変数減少前の回帰係数や直感的勾配と比較する。

  33. 規定問題解答例の前半 回帰.All Data 規定問題の 計算結果の 数値はHP にある。 各自計算後 チェックのこ と。 データ の入力 計の 入力

  34. 規定問題解答例の後半 回帰.All Data K+2行, k+2列まで掃き出す 変動 ---

  35. K+2行, k+2列まで掃き出す 偏相関係数 算出用の逆 行列を求め るため。 回帰係数が得られた後に１回余分に掃き出す

  36. 規定問題 解答まとめ表（書式） 重回帰と変数 減少後の単回 帰とを合わせ て記入し，共 通する部分と 違うところを数 値的に見比べ ること。 左のシートを Copy&paste するとExcel のシートが 得られる。

  37. 規定問題 解答まとめ（奇数・偶数） 有効桁数 多過ぎる

  38. 規定問題 解答まとめ（奇数・偶数） 変数減少結果

  39. JMPの出力　　 規定問題を回転表示

  40. 回帰分析の応用 • 回帰分析の応用は別ファイルにまとめた。 • 以下のシートは，回帰分析応用の課題も含んでいる。

  41. 回帰分析結果の吟味(1)

  42. 回帰分析結果の吟味(2)

  43. 回帰分析結果の評価

  44. 回帰分析の参考書

  45. 回帰分析のKey words • 回帰分析： 線形・static • モデル構造（多項式） vs 係数値 • モデルの評価: 標本/母集団，散布図 • 構造（変数選択）: 仮説，散布図，経験・知識 • 標本: 係数の有意性，散布図，統計量，t 値，残差平方和，単相関，偏相関，多重共線性 • 母集団: 重相関，FPE，AIC，Cross validation，散布図，経験・知識，Teaching data/checking data

More Related