Bài giảng Các phương pháp định lượng - Hồi qui đa biến: Kiểm định giả thuyết và lựa chọn mô hình

Nội dung text: Bài giảng Các phương pháp định lượng - Hồi qui đa biến: Kiểm định giả thuyết và lựa chọn mô hình

1. 12/10/2011 HỒI QUI ĐA BIẾN: KIỂM ĐỊNH GIẢ THUYẾT VÀ LỰA CHỌN MÔ HÌNH GV : Đinh Công Khải – Chương trình Fulbright Môn: Các Phương Pháp Định Lượng – MPP4 Giả thiết về qui luật chuẩn 2  Giả thiết ui ~ N(0, σ )  Các tính chất của ước lượng OLS trong hồi qui đa biến theo giả thiết phân phối chuẩn ˆ 2 k ~ N(k , ˆ ) k 2  Ước lượng  ˆ trong hàm hồi qui với 2 biến độc lập k Yi = β1 + β2 X2i+ β3 X3i+ ui x2 var(ˆ )  3i  2 2 2 2 2  x2i  x3i -  x2ix3i x2 var(ˆ )  2i  2 3 2 2 2  x2i  x3i -  x2ix3i uˆ2 ˆ  i n 3 1
2. 12/10/2011 Kiểm định hệ số hồi qui riêng  Phương pháp kiểm định ý nghĩa: Kiểm định t . Kiểm định 2 phía H0: βk = a Ha: βk ≠ a Trị kiểm định thống kê ˆ  t k k s ˆ k Kiểm định hệ số hồi qui riêng Qui tắc bác bỏ  Bác bỏ nếu |t| > tα/2 với t α/2 dựa trên phân phối t với bậc tự do là (n-K)  Hoặc pvalue a Qui tắc bác bỏ  Bác bỏ nếu t tα  Hoặc pvalue < α pvalue < α 2
3. 12/10/2011 Kiểm định hệ số hồi qui riêng  Phương pháp kiểm định dựa trên khoảng tin cậy (1-α)100% ˆ k t / 2s ˆ k Qui tắc bác bỏ Bác bỏ H0 nếu 0 không nằm trong khoảng tin cậy (1-α)100% của βk Kiểm định ý nghĩa thống kê của các hệ số hồi qui  Phương pháp kiểm định ý nghĩa: Kiểm định F (Kiểm định Wald) Giả thuyết H0: β2 = β3 = = βK = 0 Ha: Ít nhất có một tham số βk khác 0 Trị kiểm định F: MSE ESS /(K 1) F ~ F MSR RSS /(n K) (K 1,n K , ) Qui tắc bác bỏ: Bác bỏ H0 nếu F ≥ F (K-1, n-K,α) hoặc pvalue ≤ α 3
4. 12/10/2011 Kiểm định ý nghĩa thống kê của các hệ số hồi qui 2  Mối quan hệ giữa R và F R2 /(K 1) F (1 R2 )/(n K) 2  Khi R càng lớn thì F càng lớn.  Kiểm định F là thước đo ý nghĩa chung của mô hình hồi qui và cũng là kiểm định ý nghĩa của R2. 2  Kiểm định H0: β2 = β3 = = βK = 0 tương đương kiểm định H0 : R = 0 Lựa chọn mô hình  Phương pháp “từ tổng quát đến đơn giản” (Hendry/LSE) Sử dụng các kiểm định để loại bỏ biến . Kiểm tra xem dấu của các hệ số hồi qui ước lượng có đúng kỳ vọng không . Sử dụng kiểm định t và kiểm định Wald 2 . Sử dụng R điều chỉnh 4
5. 12/10/2011 Lựa chọn mô hình  Phương pháp “từ đơn giản đến tổng quát”  Liệu đưa thêm 1 hay nhiều biến giải thích có làm tăng mức ý nghĩa chung của mô hình hay không?  Giả sử chúng ta có một mô hình với m biến (mô hình cũ) (R): Yi = β1 + β2 X2i+ + βm Xmi+ ui Sau đó chúng ta bổ sung thêm (K – m) biến giải thích (mô hình mới) (U): Yi = β1 + β2 X2i+ + βm Xmi+ βm+1 Xm+1+ + βK XKi + vi Lựa chọn mô hình  Dùng kiểm định Wald H0: βm+1 = βm+2 = = βK = 0 Ha: Ít nhất có một tham số βk ở trên khác 0 Trị kiểm định 2 2 [ESSnew ESSold ]/(K m) (Rnew Rold ) /(K m) F 2 RSSnew /(n K) (1 Rnew) /(n K) Qui luật bác bỏ H0: F > F(K-m, n-K, α) hoặc pvalue < α bổ sung các biến vào mô hình làm tăng một cách ý nghĩa ESS và R2. 5
6. 12/10/2011 Lựa chọn mô hình  Kiểm định nhân tử Lagrance (R): Yi = β1 + β2 X2i+ + βm Xmi+ ui (U): Yi = β1 + β2 X2i+ + βm Xmi+ βm+1 Xm+1+ + βK XKi + vi Kiểm định giả thuyết H0: βm+1 = βm+2 = = βK = 0 Ha: Ít nhất có một tham số βk ở trên khác 0 Lựa chọn mô hình . Bước 1: Ước lượng mô hình (R) . Bước 2: Tính phần dư, uˆ R . Bước 3: Ước lượng mô hình (*) uˆRi 1 2 X 2 m X m m 1X m 1 K X K i 2 2 . Buớc 4: Với mẫu lớn, nR (R từ *) sẽ có phân phối Chi-square với tự do bậc bằng với số biến bị giới hạn (K-m). 2 . Nếu nR > χ2 (df=K-m) bác bỏ giả thuyết H0. 6
7. 12/10/2011 Lựa chọn dạng hàm hồi qui (phép thử MWD)  Các giả thuyết H0: Yi = β1 + β2 X2i+ + βK XKi+ ui (1) Ha: lnYi = β1 + β2 lnX2i+ + βK lnXKi+ vi (2)  Quy trình kiểm định ˆ ˆ  Ước lượng mô hình tuyến tính (1); tính Y ; tính lnY  Ước lượng mô hình tuyến tính logarit (2) và tính lnˆ Y  ˆ Tạo biến mới Z1 (lnY lnˆ Y)  Hồi qui Y theo Xs và Z1, bác bỏ H0 nếu hệ số hồi qui của Z1 có ý nghĩa thống kê Lựa chọn dạng hàm hồi qui (phép thử MWD)  Tạo biến mới ˆ Z2 (anti logof lnˆ Y Y)  Hồi qui lnY theo lnXs và Z2, bác bỏ Ha nếu hệ số hồi qui của Z2 có ý nghĩa thống kê theo kiểm định t thông thường. 7
8. 12/10/2011 Các tiêu chuẩn chọn mô hình khác  Kiểm định AIC (Akaike Info Criterion) RSS ( )e2k / n n Mô hình nào có giá trị của tiêu chuẩn này thấp hơn sẽ được chọn Thích hợp trong phân tích chuỗi thời gian  Kiểm định Schwarz RSS ( )nk / n n Mô hình nào có giá trị của tiêu chuẩn này thấp hơn sẽ được chọn Thích hợp đối với những mô hình đơn giản Các tiêu chuẩn chọn mô hình khác  Kiểm định Hannan – Quinn (HQ Criterion) RSS ( )(ln n)2k / n n Mô hình nào có giá trị của tiêu chuẩn này thấp hơn sẽ được chọn 8