1 / 55

Kết hợp mạng Nơron nhân tạo và mô hình ARIMA để dự báo dữ liệu chuỗi thời gian

GVHD: PGS. TS. Dương Tuấn Anh GVPB: TS. Võ Thị Ngọc Châu SVTH1: Trần Thế Sĩ – 50801793 SVTH2: Đinh Kim Ngân - 50801336. Kết hợp mạng Nơron nhân tạo và mô hình ARIMA để dự báo dữ liệu chuỗi thời gian. 12/2012. Nội dung.

jackie
Download Presentation

Kết hợp mạng Nơron nhân tạo và mô hình ARIMA để dự báo dữ liệu chuỗi thời gian

An Image/Link below is provided (as is) to download presentation Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author. Content is provided to you AS IS for your information and personal use only. Download presentation by click this link. While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server. During download, if you can't get a presentation, the file might be deleted by the publisher.

E N D

Presentation Transcript

  1. GVHD: PGS. TS. DươngTuấnAnh GVPB: TS. VõThịNgọcChâu SVTH1: TrầnThếSĩ – 50801793 SVTH2: Đinh Kim Ngân - 50801336 KếthợpmạngNơronnhântạovàmôhình ARIMA đểdựbáodữliệuchuỗithờigian 12/2012

  2. Nội dung • Giớithiệuchuỗithờigianvàcáckháiniệmliênquan • Môhình ARIMA • Môhình ANN • Môhìnhkếthợp ARIMA-ANN • Kếtquảthựcnghiệm • Kếtluận • Q&A

  3. Giớithiệuchuỗithờigianvàcáckháiniệmliênquan • Môhình ARIMA • Môhình ANN • Môhìnhkếthợp ARIMA-ANN • Kếtquảthựcnghiệm • Kếtluận • Q&A

  4. Bàitoándựbáo

  5. Chuỗithờigian • Dữliệuđượcthunhập, lưutrữvàquansáttheosựtăngdầncủathờigian • Chuỗithờigiantuyếntính • Thànhphầnmùa • Thànhphầnchukì • Thànhphầnxuhướng • Thànhphầnbất qui tắc • Chuỗithờigian phi tuyếntính

  6. Thànhphầncủachuỗithờigian • Việcxácđịnhmộtchuỗithờigiancóthànhphầnxuhướnghaythànhphầnmùarấtquantrọngtrongbàitoándựbáochuỗithờigian. Nógiúp ta lựachọnđượcmôhìnhdựbáophùhợphaygiúpcảitiếnmôhìnhđãcóchínhxáchơn. • Có 2 cáchphổbiếngiúpnhận ra cácthànhphầncủachuỗithờigiantuyếntính: • Phươngphápđồthị • Phântíchhệsốtựtươngquan

  7. Thànhphầnxuhướng Hệsốtựtươngquanrấtlớn ở nhữngđộtrễđầutiênvàgiảmdầntheosựtăngcủađộtrễ. Cóthểđượcxấpxỉbằng 1 đườngthẳnghoặcđườngcongtrơn

  8. Chuỗithờigiantĩnh • (1) • (2) • Hệsốtựtươngquancủachuỗithờigiantĩnhgiảmnhanhvề 0, thôngthườngsauđộtrễthứ 2 hoặcthứ 3.

  9. Thànhphầnchukì • Nhữngdao độngdạngsóngquanhxuhướngluônthayđổicảvềbiênđộvàkhoảngthờigianxuấthiện • Xemnhưlà mộtphầncủathànhphầnxuhướng

  10. Thànhphầnmùa • Thànhphầnthểhiệnsựbiếnđổilặpđilặplạitạitừngthờiđiểmcốđịnhtheotừngnămcủachuỗithờigian • Hệsốtựtươngquantạinhữngthờiđiểmcốđịnhtheotừngnămsẽcósựtươngquanlớnvớinhau

  11. Giớithiệuchuỗithờigianvàcáckháiniệmliênquan • Môhình ARIMA • Môhình ANN • Môhìnhkếthợp ARIMA-ANN • Kếtquảthựcnghiệm • Kếtluận • Q&A

  12. Lớpmôhình ARIMA • Môhìnhtrungbình di độngbậc q, MA(q) • Môhìnhtựhồiquybậc p, AR(p) • Môhìnhkếthợptựhồiquyvàtrungbình di động ARMA(p,q) • Môhìnhtựhồiquytíchhợpvớitrungbình di động ARIMA(p,d,q) • Môhình ARIMA cótínhmùa SARIMA(p,q,d)(P,Q,D)s

  13. Môhìnhtrungbình di độngbậc q • Môhình MA(q) • Dấuhiệunhậnbiết • Hệsốtựtươngquanbằng 0 vớiđộtrễlớnhơn q • Hệsốtựtươngquanriêngphầngiảmdầnvề 0 Môhình MA(2)

  14. Môhìnhtựhồiquybậc p • Môhình AR(p) • Dấuhiệunhậnbiết: • Hệsốtươngquangiảmdầnvề 0 • Hệsốtươngquanriêngphầnbằng 0 vớiđộtrễlớnhơnp ACF và PACF củamôhình

  15. Môhìnhkếthợptựhồiquyvàtrungbình di động • Môhình ARMA(p,q) • Dấuhiệunhậnbiết • Hệsốtươngquanbằng0 sauđộtrễ q • Hệsốtươngquanriêngphầnbằng0 sauđộtrễp ACF và PACF củamôhình +

  16. Môhìnhtựhồiquytíchhợpvớitrungbình di động • Môhình ARIMA(p,d,q) • Dấuhiệunhậnbiết • Chuỗithờigiankhôngtĩnh, cóxuhướng • Hệsốtươngquangiảmrấtchậm

  17. Môhìnhtựhồiquytíchhợpvớitrungbình di động • Môhình ARIMA(p,d,q) • Phươngpháplấyhiệuđểkhửtínhxuhướng:cho {Xt} • Lần 1: Yt = Xt+1 – Xt = • Lần 2: Zt = Yt+1 – Yt = ..… • Lần d: Wt =

  18. Môhình ARIMA cótínhmùa- SARIMA • Môhình SARIMA(p,d,q)(P,D,Q)s • Nhậnbiết: Hệsố ACF rấtlớntạicáccậnmùa • Cáchxácđịnhchukìmùa • Xácđịnhcáchệsốtươngquancực trị. • Tínhkhoảngcáchgiữacáchệsốtươngquancực trị. • Nhậndạngkhoảngcáchđượclặplạinhiềunhất, nếutầnsuấtcủakhoảngcáchnàylớnthìđóchínhlàchukìmùa.

  19. Xâydựngmôhình SARIMA • Môđunnhậndạngmôhình • Môđunkhửmùavàxuhướng • Môđunướclượngthamsố • Môđundựbáo

  20. XâydựngmôhìnhSARIMALượcđồtổngquan

  21. Xâydựngmôhình SARIMAMôđun nhận dạngmôhình • Môhình SARIMA(p,d,q)(P,D,Q)s • Xácđịnhbậclấyhiệudđểloạibỏtínhxuhướng • Loạibỏtínhmùa: chuỗidữliệuđượclấyhiệuDlầnvớikhoảnglấyhiệulàs • Xácđịnhbậcchothànhphầndữliệutĩnh: p, q • Xácđịnhbậcchothànhphầnmùa: P, Q

  22. Xâydựngmôhình SARIMAMôđun nhận dạngmôhình • Xác địnhmôhìnhbằngcáchphântíchtínhchất ACF, PACF Tỉlệthayđổitrungbình: • Nếu > 65% thìkếtluậnmẫucóhệsốtựtươngquanbằng 0 sau 1 vàiđộtrễ. • Nếu > 10% thìkếtluậnmẫucóhệsốtựtươngquangiảmdầnvề 0. • Cáctrườnghợpcònlạithì ta xemmẫucóhệsốtựtươngquanbiếnđổitheohàmmũ.

  23. Xây dựng mô hình SARIMA Môđun khử mùavàxuhướng • Cácchuỗidữliệurấtphứctạpvàthườngmangtínhxuhướnghoặctínhmùa • Cácchuỗidữliệucầnđượcbiếnđổithànhcácquátrìnhtĩnhtrướckhiđưavàothànhphầnnhậndạngmôhình • Lấyhiệulàkĩthuậtđượcsửdụngphổbiếnnhất • Khidựbáo, ta cầnchuyểnđổilạidữliệunhư ban đầu

  24. Xây dựng mô hình SARIMAMôđun ước lượngthamsố

  25. Kếtluậnvềmôhình ARIMA • MôhìnhSARIMA làmộtmôhìnhtổngquátcóthểsửdụngchonhiềuloạichuỗithờigiantrongthựctế, kểcảnhữngchuỗicóthànhphầnxuhướngvàthànhphầnmùa. • Tuynhiênmôhình SARIMA khôngthểdựđoánthànhphần phi tuyếncủachuỗithờigian. • ĐểxâydựngmôhìnhSARIMA cầnphảicónhiềudữliệu. • Khôngdễcậpnhậpmôhìnhkhicóthêmdữliệumới, thườnglàmôhìnhmớisẽđượcxâydựng

  26. Giớithiệuchuỗithờigianvàcáckháiniệmliênquan • Môhình ARIMA • Môhình ANN • Môhìnhkếthợp ARIMA-ANN • Kếtquảthựcnghiệm • Kếtluận • Q&A

  27. Môhình ANN • Sơlượcvềmạngnơron • Mạngnơronnhântạo • Giảithuậtlantruyềnngược • Giảithuật RPROP • Xâydựngmôhình ANN • Kếtluậnmôhình ANN

  28. Sơlượcvềmạngnơron • Tếbàohìnhcâycónhiệmvụmangtínhiệuđiệnsinhhọctớitếbàothân • Tếbàothânsẽthựchiệntínhtổngvàphânngưỡng (thresholds) cáctínhiệuđến • Sợitrụcthầnkinhcónhiệmvụđưatínhiệutừtếbàothânrangoài • Khớpthầnkinh (synapse) làđiểmtiếpxúcgiữasợitrụcthầnkinhnàyvớitếbàohìnhcâycủanơronkia

  29. MạngnơronnhântạoHìnhdạngmạng Mạnghồiquy Mạngtruyềnthẳng

  30. Giảithuậtlantruyềnngược • Tìmtậpcáctrọngsốthíchhợpchomộtmạngnơrontruyềnthẳngnhiềulớp • Ápdụngphươngphápgiảmđộdốcđểtốithiểuhóabìnhphươngsaisố • Giátrịlỗisẽđượclantruyềnngượctừtầngxuấtvềtầngnhậpđểtính

  31. GiảithuậtlantruyềnngượcƯuđiểm – nhượcđiểm • Ưuđiểm: • Đơngiảnnêndễápdụng • Nhượcđiểm: • Khókhăntrongviệclựachọnthamsốđầuvào • Phụthuộcvàođộlớnđạohàmlỗi • Quátrìnhhọckhôngổnđịnh

  32. Giảithuật RPROP • Resilient Propagation • Lantruyềnđànhồilàmộtphươngphápthíchnghicụcbộ • Cậpnhậpcáctrọngsốdựavàothông tin vềdấucủacácđạohàmriêngphần • Thựchiệntheomôhìnhhọctheoepoch nghĩalàcậpnhậthệsốdựavàothông tin củatổngđộdốcchotoànbộtậpdữliệu

  33. GiảithuậtRPROPƯuđiểm • Việckhởitạogiátrị ban đầuchocácthamsốítảnhhưởngđếntốcđộhộitụ • Việccậpnhậtdựavàodấucủađạohàmriêngphầnnênviệccậpnhậtsẽtrảiđềuchotoànmạngchứkhôngthiênvịnhưmôhìnhlantruyềnngược

  34. Ápdụngvàobàitoándựbáochuỗithờigian

  35. Xâydựngmôhình ANN • Lựachọncácbiến • Thu thậpdữliệu • Tiềnxửlýdữliệu • Phân chia tậpdữliệu • Xâydựngcấutrúcmạng • Xácđịnhtiêuchuẩnđánhgiá • Huấnluyệnmạng • Dựbáovàcảitiến

  36. XâydựngmôhìnhANNPhân chia tậpdữliệu • Tậphuấnluyện, kiểmtravàkiểmđịnh (ngoàicácmẫu) • Tậphuấnluyệnthườngcókíchthướclớnnhất • Tậpkiểmtrachiếmkhoảng 10% - 30% dữliệutậphuấnluyện • Tậpkiểmđịnhphụthuộcvàokíchthướcmẫu, baogồmcácgiátrịdựđoánmớinhất • Phươngpháp walk-forward

  37. XâydựngmôhìnhANNXâydựngcấutrúcmạng • Xácđịnhsựliênkếtgiữacácnơron • Xácđịnhsốlớpẩn: thôngthườngcácmạngnơronđượckhởitạovớimộthoặchailớpẩn. • Xácđịnhsốnơrontrongtừnglớp: • Tạoramộtsốmôhìnhmẫu, huấnluyệnvàchọnmôhìnhcólỗitốiưunhất • Thayđổicấutrúcngaytronggiaiđoạnhuấnluyện (phứctạp)

  38. XâydựngmôhìnhANNXácđịnhtiêuchuẩnđánhgiá • Thườngdùngtổngbìnhphươnglỗi • Trongđó: • nlàsốđiểmtrongtậpdữliệukiểmtra • tkvàoklầnlượtlàgiátrịmongmuốntrongbộdữliệuvàgiátrịxuấtcủamạngnơron

  39. XâydựngmôhìnhANNHuấnluyệnmạng • Mụctiêucủaviệchuấnluyệnmạngđólàtìmratậpcáctrọngsốcho ta giátrịnhỏnhấttoàncụccủachỉsốhiệunăng hay hàmlỗi • Cóbacáchthườngdùngđểdừngmộtquátrìnhhuấnluyện: • điểmhộitụ • sốlầnlặptốiđa • sửdụngtậpdữliệukiểmđịnh (validation set)

  40. Kếtluậnvềmôhình ANN • Dựđoántốtthànhphần phi tuyếncủachuỗithờigian • Phụthuộcnhiềuvàocấuhìnhcủamạng (sốlớp, sốđơnvịmỗilớp) vàcácthamsốcủagiảithuậthuấnluyện • Đốivớinhữngchuỗithờigiancóxuhướngvàtínhmùachươngtrìnhsửdụngmạngnơrondựđoánvớiđộchínhxácchưacao

  41. Giớithiệuchuỗithờigianvàcáckháiniệmliênquan • Môhình ARIMA • Môhình ANN • Môhìnhkếthợp ARIMA-ANN • Kếtquảthựcnghiệm • Kếtluận • Q&A

  42. Môhìnhkếthợp ARIMA vàANN • Môhình ARIMA khônggiảiquyếtđượcchuỗi phi tuyến • Môhình ANN khônggiảiquyếttốtchuỗituyếntính • Khóxácđịnhđượcmộtchuỗithờigianthuần phi tuyến hay tuyếntính • Mộtchuỗithờigianthườngbaogồmcả 2 thànhphần phi tuyến, tuyếntính

  43. Hiệnthựcmôhìnhkếthợp ARIMA và ANN • Môhình • L: biểudiễnthànhphầntuyếntínhcủachuỗithờigianđượcướclượngbởimôhình SARIMA • N: biểudiễnthànhphần phi tuyếncủachuỗithờigianđượcướclượngbởimôhình ANN • Dựđoán

  44. Giớithiệuchuỗithờigianvàcáckháiniệmliênquan • Môhình ARIMA • Môhình ANN • Môhìnhkếthợp ARIMA-ANN • Kếtquảthựcnghiệm • Kếtluận • Q&A

  45. Tiêuchuẩnđánhgiá • SaisốtuyệtđốitrungbìnhlỗiMAE (mean absolute error) tínhtheocôngthức: • SaisốtrungbìnhbìnhphươnglỗiMSE (mean squared error) tínhtheocôngthức: • SaisốtuyệtđốiphầntrămlỗiMAPE (mean absolute percentage error) đượctínhtheocôngthức:

  46. Dữliệuthựcnghiệm

  47. Kếtquảthựcnghiệm Chuỗidữliệucótínhmùavàxuhướng

  48. Kếtquảthựcnghiệm Dữliệu phi tuyếntính

  49. Giớithiệuchuỗithờigianvàcáckháiniệmliênquan • Môhình ARIMA • Môhình ANN • Môhìnhkếthợp ARIMA-ANN • Kếtquảthựcnghiệm • Kếtluận • Q&A

More Related