時間序列分析常用兩種方法進行多步預測，一種是透過重複代入一步最佳
線性預測的方式(recursive method) 遞迴地運算多步預測，另一種則是直接進行多步最佳線性預測(direct method)。兩方法所採用的參數估計量亦不相同，前者多採用MLE 或一步最小平方估計，後者則直接採用多步最小平方估計。相較而言，若模式能正確選取，recursive 方法所得到的多步預測均方差會較小;direct的方法參數估計誤差雖較大，但為不偏預測，且對模式的選取相對穩健。由於recursive 與direct 兩種預測方法互有優劣，本研究提出一個結合兩種預測方法之複合式的參數估計式，並透過資料訊息自動地調控估計式複合之權重，以期新方法能兼具recursive 與direct 預測的優點。本文將此創新的預測方法運用於多種線性與非線性的時間序列資料上，透過模擬研究比較傳統方法與新方法的預測能力優劣表現，並建議各種方法的最佳適用情境。

Multi-step forecast is an important issue in time series analysis. Among linear forecasts, the direct and recursive methods are both popular in use. The former
is solved by minimizing the h-step-ahead prediction mean squared error directly. The latter, also called plug-in or iterated method, is recursively computing the
multi-step-ahead prediction by repeatedly plug in the one-step-ahead best linear predictors to unobserved lag variables. Both methods are theoretically justified,
while their empirical performance relative to the other is depending on the tradeoff between the bias and estimation variance which is typically sensitive to the working model, the forecast horizon, and the underlying data scenario. This thesis proposes a composite inference for parameter estimation as well as for the multi-step
forecasting by combining the estimating functions from both direct and recursive methods. This new composite method is easy to compute and is expected to remain the advantages from both sides. In particular, the new method can automatically adjust the optimal weights between both predictors via a cross validation approach. Simulation studies show that the proposed composite forecast performs effectively and adaptive towards the better one among the traditional direct and recursive forecasts under a variety of linear and nonlinear data generating scenarios. Some practical recommendations and computational issues are also addressed.

目錄
1 緒論1
1.1 研究動機. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.2 研究目的. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
2 研究方法3
2.1 各種多步預測方法. . . . . . . . . . . . . . . . . . . . . . . . . . . 3
2.1.1 Recursive Method . . . . . . . . . . . . . . . . . . . . . . . 4
2.1.2 Direct Method . . . . . . . . . . . . . . . . . . . . . . . . . 4
2.1.3 Mallows Model Averaging . . . . . . . . . . . . . . . . . . . 6
2.2 Composite Least Square Method . . . . . . . . . . . . . . . . . . . 7
2.2.1 Composite Method . . . . . . . . . . . . . . . . . . . . . . . 7
2.2.2 Order Selection . . . . . . . . . . . . . . . . . . . . . . . . . 9
2.3  的選取: Cross Validation . . . . . . . . . . . . . . . . . . . . . . 10
2.4 比較Select 與Combined Method . . . . . . . . . . . . . . . . . . . 13
3 模擬結果與分析15
3.1 模擬試驗的設定. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
3.1.1 資料生成模式之設定. . . . . . . . . . . . . . . . . . . . . . 15
3.1.2 模擬程序. . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
3.2 評比標準. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
3.3 模擬試驗的結果. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23
3.3.1 各種多步預測方法的預測能力比較. . . . . . . . . . . . . . 23
3.3.2 選擇order 、 λ 與w 的結果. . . . . . . . . . . . . . . . . . 73
4 結論與後續研究84
參考文獻85
附錄87
附錄A : 證明Composite 最小平方法的參數估計與h 步預測值. . . . . 87
附錄B : 證明Thoerem 2.1 . . . . . . . . . . . . . . . . . . . . . . . . 88

表目錄
表1 Recursive 與Direct 的比較. . . . . . . . . . . . . . . . . . . . . . 7
表2 M1-M9 的模式整理與其對應的參數設定. . . . . . . . . . . . . . . 18
表3 在M1 模式中, 對於不同h 經由多種多步預測方法, 得到PMSE 的結
果. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
表4 在M2 模式中, 對於不同h 經由多種多步預測方法, 得到PMSE 的結
果. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28
表5 在M3 模式中, 對於不同h 經由多種多步預測方法, 得到PMSE 的結
果. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
表6 在M4 模式中, 對於不同h 經由多種多步預測方法, 得到PMSE 的結
果. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
表7 在M5 模式中, 對於不同h 經由多種多步預測方法, 得到PMSE 的結
果. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34
表8 在M6 模式中, 對於不同h 經由多種多步預測方法, 得到PMSE 的結
果. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36
表9 在M7 模式中, 對於不同h 經由多種多步預測方法, 得到PMSE 的結
果. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38
表10 在M8 模式中, 對於不同h 經由多種多步預測方法, 得到PMSE 的結
果. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40
表11 在M9 模式中, 對於不同h 經由多種多步預測方法, 得到PMSE 的結
果. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42
表12 對於各種模式, 在AIC 與AICC 的選取依據下, 選到各個order 的比
例. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 75

圖目錄
圖1 對於Leave-h-Out Cross Validation 的流程圖. . . . . . . . . . . . 12
圖2 對於模擬的流程圖. . . . . . . . . . . . . . . . . . . . . . . . . . . 21
圖3 在M1 模式中, 四種選模準則所得到的PMSE 表現. . . . . . . . . 44
圖4 在M1 模式中, 四種選模準則選取order, 所得到PMSE 之Bias 表現46
圖5 在M2 模式中, 四種選模準則所得到的PMSE 表現. . . . . . . . . 47
圖6 在M2 模式中, 四種選模準則選取order, 所得到PMSE 之Bias 表現49
圖7 在M3 模式中, 四種選模準則所得到的PMSE 表現. . . . . . . . . 50
圖8 在M3 模式中, 四種選模準則選取order, 所得到PMSE 之Bias 表現52
圖9 在M4 模式中, 四種選模準則所得到的PMSE 表現. . . . . . . . . 53
圖10 在M4 模式中, 四種選模準則選取order, 所得到PMSE 之Bias 表現55
圖11 在M5 模式中, 四種選模準則所得到的PMSE 表現. . . . . . . . . 56
圖12 在M5 模式中, 四種選模準則選取order, 所得到PMSE 之Bias 表現58
圖13 在M6 模式中, 四種選模準則所得到的PMSE 表現. . . . . . . . . 59
圖14 在M5 模式中, 四種選模準則選取order, 所得到PMSE 之Bias 表現61
圖15 在M7 模式中, 四種選模準則所得到的PMSE 表現. . . . . . . . . 62
圖16 在M7 模式中, 四種選模準則選取order, 所得到PMSE 之Bias 表現64
圖17 在M8 模式中, 四種選模準則所得到的PMSE 表現. . . . . . . . . 65
圖18 在M8 模式中, 四種選模準則選取order, 所得到PMSE 之Bias 表現67
圖19 在M9 模式中, 四種選模準則所得到的PMSE 表現. . . . . . . . . 68
圖20 在M9 模式中, 四種選模準則選取order, 所得到PMSE 之Bias 表現70
圖21 對於線性模式, 使用composite 方法, 比較四種選模準則和Testing data A
與B 之PMSE 表現. . . . . . . . . . . . . . . . . . . . . . . 71
圖22 對於非線性模式, 使用composite 方法, 比較四種選模準則和Testing data
A 與B 之PMSE 表現. . . . . . . . . . . . . . . . . . . . . . 73
圖23 對於各種模式模擬M = 10000 筆, 在四種選模準則下, λ 與w 的結果80

[1] 張育瑋(2009), TAR 模型建模之相關議題, 清大統計所碩士論文
[2] 張景弦(2015), 局部線性外插與指數平滑法, 清大統計所碩士論文
[3] Chang, J.S., & Huang, L.S.(2015), Local Linear Extrapolation and Exponential Smoothing. working paper.
[4] Bhansali, R.J. (1997), Direct Autoregressive Predictors for Multistep Prediction: Order Selection and Performance Relative to The Plug in Predictors. Statistic Sinica, 7, 425-449.
[5] Chen, R.(2015), Functional Coefficient Autoregressive Models: Estimate and Tests of Hypotheses. working paper.
[6] Cheng, T.C.F., Ing, C.K., & Yu, S.H.(2015), Toward optimal model averaging in regression models with time series errors. Journal of
Econometrics, 189, 321-334.
[7] Findley, D.F.(1984), On Some Ambiguities Associated with The Fitting of ARMA Models to Time Series. Journal of Time Series Analysis, 5, 213-225.
[8] Hansen, B.E.(2008), Least-Squares Forecast Averaging. Journal of Econometrics, 146, 342-350.
[9] Hansen, B.E.(2010), Multi-Step Forecast Model Selection. working paper.
[10] Taieb, S.B., & Hyndman, R.J.(2012), Recursive and Direct Multi-step Forecasting: The Best of Both Worlds. working paper.
[11] Taieb, S.B., & Hyndman, R.J.(2014), Boosting Multi-step Autoregressive Forecasts. working paper.
[12] Hurvich, C.M., & Tsai, C.L.(1997), Selection of A Multistep Linear Predictor for Short Time Series. Statistica Sinica, 7, 395-406.
[13] Kunitomo, N., & Yamamoto, T.(1997), Properties of Predictors in Misspecified Autoregression Time Series Models. Jouranl of the American Statistical Association, 80, 941-950. 85
[14] Casella, G., Fienberg, S., & Olkin, I.(2014), An Introduction to Statistical Learning with Applications in R. New York, USA: Springer.
[15] Ing, C.K.(2003), Multistep Prediction in Autoregressive Processes. Econometric Theory, 19, 254-279.
[16] Yang, Y.(2003), Regression with Multiple Candidate Models: Selecting or Mixing ?. Statistica Sinica, 13, 783-809.