180 likes | 280 Views
親の仕送り問題. <マルコフ決定過程>. 問題設定. 春から下宿生活をすることになった K 君。 4月から親の仕送りを受ける。 収入・支出のデータをもとに、できるだけ親の負担の少ない仕送り計画を設定する。. 収入例 : 仕送り、バイト代、奨学金 etc 支出例 : 生活費、家賃、授業料 etc 授業料の支払い以外を確率的に変動するものとみなす。 学生ローン: 金利 100r L % / 週 上限 10万円 c(x,y) : 学生ローンの金利負担分.
E N D
親の仕送り問題 <マルコフ決定過程>
問題設定 • 春から下宿生活をすることになったK君。 • 4月から親の仕送りを受ける。 • 収入・支出のデータをもとに、できるだけ親の負担の少ない仕送り計画を設定する。
収入例 : 仕送り、バイト代、奨学金 etc • 支出例 : 生活費、家賃、授業料 etc 授業料の支払い以外を確率的に変動するものとみなす。 • 学生ローン: 金利 100rL%/週 上限 10万円 c(x,y) : 学生ローンの金利負担分
第t月の月初めの預金残高(Xt)に応じて その月の仕送り額(Yt)を決定し、第t月の月初めの預金残高(Xt)に応じて その月の仕送り額(Yt)を決定し、 第1週末までに送ってもらう。 →Xt所与のもとで、Ytの確率分布が示される(マルコフ決定過程)。
授業料をふくめた家計負担の期待値(5.12)授業料をふくめた家計負担の期待値(5.12) Σ[ E { Yt} / (1+r)4t-3 + E { c(Xt、Yt)} / (1+r)4t-3] +200,000 / (1+r) +…
線形計画問題 (5.13) • 最小化 Σ[ E {Yt}/ (1+r)4t-3 + E { c(Xt、Yt)} / (1+r)4t-3 ] • 条件 Yt ; Xt 所与のもとである確率分布 として与えられる
β=(1+r)-4 • cij = yj+ c( xi, yj) • zij =Σ(1+ r )³・βt・P { Xt= xi, Yt= yj} • Pijk = P { Xt+1= xk| Xt= xi, Yt= yj} 1ij{ Xt,Yt} = 1, Xt= xi, Yt= yjのとき 0, それ以外 ∞ t=1
(目的関数の変形) = ΣΣΣ(1+r)³・βt・cij ・ P { Xt= xi,Yt = yj } =ΣΣcij・ zij (5.15)
Σzkj = Σ Σ(1+r) ³・βt・P { X t= xk, Y t= yj } =Σ Σ・β・Pijk・ z ij+ (1+r) ・ P{ X 1= xk} よって Σz kjー ΣΣβ・P ijk・ zij(5.17) = (1+r) ,xk= 0 のとき (kI) 0 それ以外
線形計画問題(5.18) • 最小化 Σ Σ cij・ zij • 条件 Σ zkjー Σ Σ β・ Pijk・ zij = (1+r) ,xk= 0 のとき ( k I) 0 それ以外 zij0, jJi, II ⇒最適解{zij*|jJi, iI}
定理 • 実行可能基底解の中から最適解が選ばれる 問題(5.18)の最適解は、定常かつ純粋な仕送り計画 Yt=F*(Xt) に対応。
Yt=F*(Xt)のもとでの {Xt|t1}の ①推移確率 Pik*=P{Xt+1=xk|Xt=xi,Yt=F*(xi)} ②状態確率 πi*(t)=P{Xt=xi} →πk*(t+I)=Σπi*(t)・Pik*(5.20)
t→∞ πk*=Σπi*・Pik*,kI Σπi*=1 (5.21) iI
Yt=F*(Xt)のもとでの {Yt|t1}の 状態確率 ρj*(t)=P{F*(Xt)=yj}=P{XtF*-1(yj)} (5.19) 仕送り額の定常分布{ ρj*}は(5.21)より ρj*=Σπi*(5.22) ( Aj*={iI|xiF*-1(yj) ) iAj*