Bài giảng Nguyên lý thống kê - Chương 10: Tương quan, hồi qui tuyến tính - Nguyễn Ngọc Lam

Nội dung text: Bài giảng Nguyên lý thống kê - Chương 10: Tương quan, hồi qui tuyến tính - Nguyễn Ngọc Lam

1. Chương 10 TƯƠNG QUAN, HỒI QUI TUYẾN TÍNH www.nguyenngoclam.com 190
2. I.TƯƠNG QUAN TUYẾN TÍNH 1. Khái niệm: được gọi là đại lượng đo lường mối tương quan tuyến tính của 2 đại lượng ngẫu nhiên X và Y nếu: -1 1 * 0: X, Y có mối liên hệ thuận * = 0: X, Y không có mối liên hệ. * : càng lớn thì X, Y có mối liên hệ càng chặt chẽ. 191
3. I.TƯƠNG QUAN TUYẾN TÍNH 2. Hệ số tương quan mẫu: Chọn ngẫu nhiên n cặp quan sát (xi, yi) từ hai tổng thể X,Y. Ta có hệ số tương quan Pearson: n (xi x)(yi y) r i 1 n n 2 2 (xi x) (yi y) i 1 i 1 Trường hợp |r| ≥ 0,8 chúng ta có thể kết luận X, Y có mối tương quan tuyến tính chặt chẽ. Để đảm bảo tính chính xác này, chúng ta có thể thực hiện kiểm định giả thuyết 192
4. I.TƯƠNG QUAN TUYẾN TÍNH Ví dụ, nghiên cứu mối quan hệ giữa số tiền chi tiêu và thu nhập của họ. Ta có số liệu sau: Thu nhập X Chi tiêu Y Thu nhập X Chi tiêu Y 9.098 5.492 11.307 5.907 9.138 5.540 11.432 6.124 9.094 5.305 11.449 6.186 9.282 5.507 11.697 6.224 9.229 5.418 11.871 6.496 9.347 5.320 12.018 6.718 9.525 5.538 12.523 6.921 9.756 5.692 12.053 6.471 10.282 5.871 12.088 6.394 10.662 6.157 12.215 6.555 11.019 6.342 12.494 6.755 193
5. I.TƯƠNG QUAN TUYẾN TÍNH 194
6. I.TƯƠNG QUAN TUYẾN TÍNH 3. Kiểm định tương quan tuyến tính: X,Y ~ N: H0 : 0 H : 0 1 r • Giả trị kiểm định: t (1 r2)/(n 2) • Bác bỏ giả thuyết H0: t tn 2, / 2 195
7. I.HỒI QUI TUYẾN TÍNH ĐƠN GIẢN 1. Khái niệm hồi qui: Ví dụ, Nghiên cứu mối liên hệ giữa chi tiêu Y và thu nhập X của hộ gia đình: X 80 100 120 140 160 180 200 220 240 260 Y 55 65 79 80 102 110 120 135 137 150 60 70 84 93 107 115 136 137 145 152 65 74 90 95 110 120 140 140 155 175 70 80 94 103 116 130 144 152 165 178 75 85 98 108 118 135 145 157 175 180 88 113 125 140 160 189 185 115 162 191 E(Y/Xi) 65 77 89 101 113 125 137 149 161 173 196
8. I.HỒI QUI TUYẾN TÍNH ĐƠN GIẢN • E(Y/X) = f(X) : Phương trình hồi qui • E(Y/X) = + X: Phương trình hồi qui tuyến tính • Y = + X + U : Giá trị thực của Y Trong đó: • X: biến giải thích (độc lập); • Y: biến được giải thích (phụ thuộc) • : Tham số chặn • : Tham số của biến • U: Yếu tố ngẫu nhiên • X,Y không có mối quan hệ hàm số mà có mối quan hệ nhân quả và thống kê 197
9. I.HỒI QUI TUYẾN TÍNH ĐƠN GIẢN Đường hồi qui thực nghiệm: 200 180 160 140 120 100 80 60 40 20 0 80 100 120 140 160 189 200 220 240 260 198
10. I.HỒI QUI TUYẾN TÍNH ĐƠN GIẢN 2. Xây dựng mô hình hồi qui mẫu: Ta cần ước lượng , , giả sử đó là a,b. Chọn n cặp quan sát (xi,yi) từ X,Y: yi a bxi ei : Giá trị thực tế yˆi a bxi : Giá trị lý thuyết Ta cần tìm a, b sao cho 02 giá trị trên càng gần càng tốt. Phương pháp bình phương bé nhất (OLS): n n n 2 2 2 SSE  ei  (yi yˆ i )  (yi a bx i ) min i 1 i 1 i 1 (x x)(y y) b i i a y bx 2 (xi x) 199
11. I.HỒI QUI TUYẾN TÍNH ĐƠN GIẢN Ví dụ, nghiên cứu mối quan hệ giữa số tiền chi tiêu và thu nhập của họ. Ta có số liệu sau: Thu nhập X Chi tiêu Y Thu nhập X Chi tiêu Y 9.098 5.492 11.307 5.907 9.138 5.540 11.432 6.124 9.094 5.305 11.449 6.186 9.282 5.507 11.697 6.224 9.229 5.418 11.871 6.496 9.347 5.320 12.018 6.718 9.525 5.538 12.523 6.921 9.756 5.692 12.053 6.471 10.282 5.871 12.088 6.394 10.662 6.157 12.215 6.555 11.019 6.342 12.494 6.755 200
12. I.HỒI QUI TUYẾN TÍNH ĐƠN GIẢN 201
13. I.HỒI QUI TUYẾN TÍNH ĐƠN GIẢN 202
14. II.HỒI QUI TUYẾN TÍNH BỘI E(Y/X1,X2, , Xk) = + 1X1 + 2X2 + + kXk Y = + 1X1 + 2X2 + + kXk + U 1. Xây dựng mô hình hồi qui mẫu: Mục tiêu là ta cần ước lượng , 1, 2, k, giả sử đó là a,b1,b2, bk,. Chọn n cặp quan sát (x1i, x2i, xki,yi) từ X và Y: yi a b1x1i b2x2i bk xki ei : Giá trị thực tế yˆ i a b1x1i b2x2i bk xki : Giá trị lý thuyết n 2  (yi a b1x1i bk xki ) min i 1 203
15. II.HỒI QUI TUYẾN TÍNH BỘI Ví dụ, Tốc độ tăng nền kinh tế (Y) phụ thuộc vào tốc độ tăng của nông nghiệp (X1), tốc độ tăng trưởng của kim ngạch xuất khẩu (X2) và tỷ lệ lạm phát (X3) được thu thập ở 48 nước: Y(%) NN(%) XK(%) LP(%) Y(%) NN(%) XK(%) LP(%) Y(%) NN(%) XK(%) LP(%) 1,3 3,4 -2,7 13,0 8,0 3,1 10,9 37,3 5,6 3,9 6,4 13,9 1,0 1,4 -6,0 10,5 6,5 3,3 -0,6 8,9 6,9 1,3 11,6 6,4 0,4 0,1 -3,6 15,9 0,2 0,1 8,4 29,5 -4,6 0,8 -9,8 21,5 4,9 1,8 13,6 3,2 7,8 5,3 10,4 8,1 -2,6 1,7 -6,6 6,7 9,8 5,6 27,3 5,4 2,5 2,3 4,9 22,6 1,1 3,9 3,8 7,7 -2,1 2,2 2,6 5,2 -0,2 3,1 7,9 20,2 4,6 3,0 -3,5 8,6 2,0 2,3 -9,5 8,7 6,1 10,3 -19,0 -1,3 -0,6 2,5 2,0 11,5 5,8 3,0 4,4 1,4 2,9 -0,6 5,4 7,5 8,2 1,9 3,8 7,8 5,2 2,9 9,2 3,0 4,1 2,3 8,7 9,5 4,1 0,9 1,3 5,6 -1,1 -2,3 -6,3 14,9 -5,0 1,2 -2,0 1,1 12,6 7,9 11,7 3,8 0,2 0,3 12,0 20,3 2,1 2,7 5,6 11,2 4,1 2,8 -0,9 9,9 1,1 1,4 -7,2 19,8 7,7 3,0 2,0 8,9 0,6 2,8 -2,1 23,3 -12,0 4,8 -5,5 8,6 9,3 3,3 6,2 7,5 2,0 0,5 -3,1 33,5 -1,6 -0,4 -2,5 11,3 -1,7 2,0 -1,7 18,2 0,0 0,4 6,9 32,6 0,5 1,9 1,6 19,0 5,8 4,7 -0,2 2,1 -2,6 -1,3 3,4 7,7 2,2 -3,5 4,7 1,9 3,9 -3,9 -2,5 3,4 -3,4 7,9 -7,9 45,4 204
16. II.HỒI QUI TUYẾN TÍNH BỘI 205
17. II.HỒI QUI TUYẾN TÍNH BỘI 2. Ý nghĩa các tham số của Hồi qui: • Dấu của i: Cho biết mối quan hệ thuận nghịch giữa Y và Xi • Độ lớn của i: Cho biết mức độ tác động mạnh, yếu của Xi đến Y • : Có ý nghĩa tùy từng trường hợp cụ thể. 3. Ước lượng hệ số i: Ước lượng sự ảnh hưởng của Xi đến Y i (bi tn k 1, / 2Sbi ) (a tn k 1, / 2Sa ) 206
18. II.HỒI QUI TUYẾN TÍNH BỘI 4. Kiểm định từng tham số hồi qui: Kiểm định Y có phụ thuộc vào biến xi hay không: H0 : i 0 bi t tn k 1, / 2 BB H0 H1 : i 0 Sbi 5. Hệ số xác định: R2 là hệ số nhằm xác định sự biến động của Y phụ thuộc bao nhiêu % vào sự biến động của X1, X2, Xk. 2 2 2 2 2  (yi y)  (yi yˆ i )  (yˆ i y)  (yˆ i y)  ei SSR SSE SST SSR SSE R2 1 SST SST 207
19. II.HỒI QUI TUYẾN TÍNH BỘI 6. Hệ số xác định đã điều chỉnh: 2 SSR /(n k 1) n 1 R 1 (1 R2)( ) SST /(n 1) n k 1 7. Kiểm định sự phù hợp của mô hình: H0 : 1 2 k 0 MSR SSR /k n (k 1) R2 F . MSE SSE /n (k 1) k 1 R2 F Fk,(n k 1), BB H0 208
20. II.HỒI QUI TUYẾN TÍNH BỘI Tóm tắt kết quả hồi qui Tốc độ tăng kinh tế - KT(%) Biến độc lập ĐVT Hệ số P Tốc độ tăng nông nghiệp (NN) % 0,501 0,019 Tốc độ tăng xuất khẩu (XK) % 0,268 0,000 Lạm phát (LP) % -0,105 0,055 Hệ số tự do 2,033 0,047 R2=0,37; Sig.F=0,0001, n=48 209
21. II.HỒI QUI TUYẾN TÍNH BỘI Trình tự giải thích kết quả Hồi qui: • Khẳng định mô hình có ý nghĩa. Thông qua giá trị Sig.F • Trình bày mức độ ảnh hưởng của các biến độc lập đến biến phụ thuộc • Kiểm tra mức ý nghĩa thống kê của từng biến độc lập, giải thích sự ảnh hưởng của từng biến độc lập đến biến phục thuộc. Chú ý đến dấu, dấu kỳ vọng và độ lớn của hệ số hồi qui. 210
22. III.MỘT SỐ DẠNG HÀM Các trường hợp mở rộng: • Biến độc lập là biến định tính: Mô hình hồi qui với biến giả • Biến phụ thuộc là biến định tính: Phân tích nhân tố • Trường hợp phương trình hồi qui phi tuyến tính đối với biến. 211
23. III.MỘT SỐ DẠNG HÀM 1. Một biến độc lập định tính: Hồi qui với biến giả. 1.1.Biến giả có 2 phạm trù: Xây dựng mô hình so sánh tiền lương của công nhân làm việc trong khu vực tư nhân và quốc doanh. E(Y/D) = + D • Y: Tiền lương • D = 1: Công nhân khu vực tư nhân • D = 0: Công nhân khu vực quốc doanh E(Y/D=0) = : Lương công nhân khu vực quốc doanh E(Y/D=1) = +: Lương công nhân khu vực tư nhân 212
24. III.MỘT SỐ DẠNG HÀM Ví dụ: Lương 28 32 35 27 25 37 29 34 33 30 (trđ/năm) Khu vực 0 1 1 0 0 1 0 1 1 0 Yˆ 27,8 6,4D 213
25. III.MỘT SỐ DẠNG HÀM 1.2.Biến giả có 3 phạm trù: Mô hình so sánh lương công nhân khu vực tư nhân, liên doanh và quốc doanh. E(Y/D1,D2) = + 1D1 +2D2 • D1 = 1: Công nhân khu vực tư nhân D1 = 0: Công nhân khu vực khác • D2 = 1: Công nhân khu vực liên doanh D2 = 0: Công nhân khu vực khác E(Y/D1=1,D2=0) = + 1: Lương CN khu vực TN E(Y/D1=0,D2=1) = + 2: Lương CN khu vực LD E(Y/D1=0,D2=0) = : Lương CN khu vực QD 214
26. III.MỘT SỐ DẠNG HÀM 1.3.Một biến giả và 1 biến định lượng: E(Y/X,D) = + 1D1 +2X • D = 1: Công nhân khu vực tư nhân • D = 0: Công nhân khu vực quốc doanh • X : Bậc thợ của công nhân Lương trung bình công nhân khu vực tư nhân E(Y/X,D=0) = + 2X: Lương trung bình công nhân khu vực quốc doanh E(Y/X,D=1) = ( +1) + 2X: 215
27. III.MỘT SỐ DẠNG HÀM 2. Hàm log – log: Xét hàm Cobb – Douglas: Y K 1L2 eU ln Y ln 1lnK 2 lnL U • Y: Sản lượng • K: Vốn • L: Lao động • 1+2: Đo lường hiệu quả theo qui mô • 1+2=1: Hiệu quả không đổi theo qui mô • 1+2<1: Hiệu quả giảm theo qui mô • 1+2=1: Hiệu quả tăng theo qui mô 216
28. III.MỘT SỐ DẠNG HÀM Ý nghĩa của hệ số 1, 2 dY Y dY Y     1 dK K YK 2 dL L YL • 1: Hệ số co giãn riêng phần của sản lượng theo vốn. Đo lường % biến động của sản lượng nếu vốn tăng lên 1% đơn vị. • 2: Hệ số co giãn riêng phần của sản lượng theo lao động. Đo lường % biến động của sản lượng nếu lao động tăng lên 1% đơn vị. 217
29. III.MỘT SỐ DẠNG HÀM Ví dụ: Nông nghiệp của Đài Loan 1957 – 1972: • lnY = -3,34 + 0,49lnK + 1,50lnL • Y: GNP (triệu USD) • K: Vốn (triệu USD) • L: Ngày công lao động (triệu ngày) Ví dụ: Hàm cầu lượng cà phê: • lnQ = 0,78 - 0,25lnPcà phê + 0,38lnPtrà • Q: Lượng cà phê sử dụng mỗi ngày (cân Anh) • Pcà phê: Giá cà phê/cân Anh • Ptrà: Giá trà/cân Anh 218
30. III.MỘT SỐ DẠNG HÀM 3. Mô hình log – lin: dY Y ln Y X U  dX • : Đo lường 100% thay đổi của Y khi X tăng lên 1 đơn vị Ví dụ: GDP đầu người giai đoạn 1969 – 1983 • ln(GDP) = 6,9636 + 0,0269t • GDP tăng trưởng 2,69% mỗi năm • t=0 (1969): GDP 1.057 tỷ USD 219
31. III.MỘT SỐ DẠNG HÀM 4. Mô hình lin - log: dY Y  ln X U  dX X • : Đo lường 1% thay đổi của Y khi x tăng lên 1% Ví dụ: Mô hình GNP và lượng cung tiền: • Y = -16.329 + 2.584,8lnX • Y: GNP (tỷ USD) • X: Lượng cung tiền (tỷ USD) • Nếu cung tiền tăng 1% thì GNP tăng 25,848 tỷ USD 220
32. III.MỘT SỐ DẠNG HÀM 5. Mô hình nghịch đảo: 1 Y  U x Y X Đường cong phillips: • Y: Tỷ lệ thay đổi của tiền lương • Y: Tỷ lệ thất nghiệp Ví dụ: Dữ liệu của Anh 1950 – 1966 • Y = -1,4282 + 8,7243 (1/X) • Khi tỷ lệ thất nghiệp tăng đến vô hạn, % giảm trong tiền lương sẽ không vượt quá 1,43% 221
33. www.nguyenngoclam.com 222