第 九 章回 歸 分 析 回歸分析基本概念9.1一元線性回歸分析9.2 本 章 內(nèi) 容多元線性回歸分析9.3 在 數(shù) 量 分 析 中 ， 經(jīng) 常 會(huì) 看 到 變 量 與 變 量 之 間 存 在 著 一 定 的 聯(lián) 系 要 了 解 變 量 之 間 如 何 發(fā) 生 相 互 影 響 的 ， 就 需 要 利 用 相 關(guān) 分 析 和 回 歸 分 析 本 章 介 紹 回 歸 分 析 基 本 概 念 ， 回 歸 分 析 的 主 要 類 型 相 關(guān) 分 析 和 回 歸 分 析 都 是 研 究 變 量 間 關(guān) 系 的 統(tǒng) 計(jì) 學(xué) 課 題 在 應(yīng) 用 中 ， 兩 種 分 析 方 法 經(jīng) 常 相 互 結(jié) 合 和 滲 透 ， 但 它 們 研 究 的 側(cè) 重 點(diǎn) 和 應(yīng) 用 面 不 同 在 回 歸 分 析 中 ， 變 量 y稱 為 因 變 量 ， 處 于 被 解 釋 的 特 殊 地 位 而 在 相 關(guān) 分 析 中 ， 變 量 y與 變 量 x處 于 平 等 的 地 位 ， 研 究 變 量 y與 變 量 x的 密 切 程 度 和 研 究 變 量 x與 變 量 y的 密 切 程 度 是 一 樣 的 在 回 歸 分 析 中 ， 因 變 量 y是 隨 機(jī) 變 量 ， 自 變 量 x可 以 是 隨 機(jī) 變 量 ， 也 可 以 是 非 隨 機(jī) 的 確 定 變 量 而 在 相 關(guān) 分 析 中 ， 變 量 x和 變 量 y都 是 隨 機(jī) 變 量 相 關(guān) 分 析 是 測(cè) 定 變 量 之 間 的 關(guān) 系 密 切 程 度 ， 所 使 用 的 工 具 是 相 關(guān) 系 數(shù) 而 回 歸 分 析 則 是 側(cè) 重 于 考 察 變 量 之 間 的 數(shù) 量 變 化 規(guī) 律 ， 并 通 過 一 定 的 數(shù) 學(xué) 表 達(dá) 式 來 描 述 變 量 之 間 的 關(guān) 系 ， 進(jìn) 而 確 定 一 個(gè) 或 者 幾 個(gè) 變 量 的 變 化 對(duì) 另 一 個(gè) 特 定 變 量 的 影 響 程 度 具 體 地 說 ， 回 歸 分 析 主 要 解 決 以 下 幾 方 面 的 問 題 通 過 分 析 大 量 的 樣 本 數(shù) 據(jù) ， 確 定 變 量 之 間 的 數(shù) 學(xué) 關(guān) 系 式 對(duì) 所 確 定 的 數(shù) 學(xué) 關(guān) 系 式 的 可 信 程 度 進(jìn) 行 各 種 統(tǒng) 計(jì) 檢 驗(yàn) ， 并 區(qū) 分 出 對(duì) 某 一 特 定 變 量 影 響 較 為 顯 著 的 變 量 和 影 響 不 顯 著 的 變 量 利 用 所 確 定 的 數(shù) 學(xué) 關(guān) 系 式 ， 根 據(jù) 一 個(gè) 或 幾 個(gè) 變 量 的 值 來 預(yù) 測(cè) 或 控 制 另 一 個(gè) 特 定 變 量 的 取 值 ， 并 給 出 這 種 預(yù) 測(cè) 或 控 制 的 精 確 度 作 為 處 理 變 量 之 間 關(guān) 系 的 一 種 統(tǒng) 計(jì) 方 法 和 技 術(shù) ， 回 歸 分 析 的 基 本 思 想 和 方 法 以 及 “ 回 歸 （ Regression） ” 名 稱 的 由 來 都 要 歸 功 于 英 國 統(tǒng) 計(jì) 學(xué) 家 F Galton（ 1822 1911） 在 實(shí) 際 中 ， 根 據(jù) 變 量 的 個(gè) 數(shù) 、 變 量 的 類 型 以 及 變 量 之 間 的 相 關(guān) 關(guān) 系 ， 回 歸 分 析 通 常 分 為 一 元 線 性 回 歸 分 析 多 元 線 性 回 歸 分 析 非 線 性 回 歸 分 析 曲 線 估 計(jì) 、 時(shí) 間 序 列 的 曲 線 估 計(jì) 含 虛 擬 自 變 量 的 回 歸 分 析 和 邏 輯 回 歸 分 析 等 類 型 9.2.1 統(tǒng)計(jì)學(xué)上的定義和計(jì)算公式 是 在 排 除 其 他 影 響 因 素 或 假 定 其 他 影 響 因 素 確 定 的 條 件 下 ， 分 析 某 一 個(gè) 因 素 （ 自 變 量 ） 是 如 何 影 響 另 一 事 物 （ 因 變 量 ） 的 過 程 ， 所 進(jìn) 行 的 分 析 是 比 較 理 想 化 的 其 實(shí) ， 在 現(xiàn) 實(shí) 社 會(huì) 生 活 中 ， 任 何 一 個(gè) 事 物 （ 因 變 量 ） 總 是 受 到 其 他 多 種 事 物 （ 多 個(gè) 自 變 量 ） 的 影 響 在 實(shí) 際 問 題 中 ， 由 于 所 要 研 究 的 現(xiàn) 象 的 總 體 單 位 數(shù) 一 般是 很 多 的 ， 在 許 多 場(chǎng) 合 甚 至 是 無 限 的 ， 因 此 無 法 掌 握 因 變 量 y總 體 的 全 部 取 值 。 也 就 是 說 ， 總 體 回 歸 方 程 事 實(shí) 上 是 未 知 的 ，需 要 利 用 樣 本 的 信 息 對(duì) 其 進(jìn) 行 估 計(jì) 。 顯 然 ， 樣 本 回 歸 方 程 的函 數(shù) 形 式 應(yīng) 與 總 體 回 歸 方 程 的 函 數(shù) 形 式 一 致 。 通 過 樣 本 數(shù) 據(jù) 建 立 一 個(gè) 回 歸 方 程 后 ， 不 能 立 即 就 用 于 對(duì) 某個(gè) 實(shí) 際 問 題 的 預(yù) 測(cè) 。 因 為 ， 應(yīng) 用 最 小 二 乘 法 求 得 的 樣 本 回 歸直 線 作 為 對(duì) 總 體 回 歸 直 線 的 近 似 ， 這 種 近 似 是 否 合 理 ， 必 須對(duì) 其 作 各 種 統(tǒng) 計(jì) 檢 驗(yàn) 。 一 般 經(jīng) 常 作 以 下 的 統(tǒng) 計(jì) 檢 驗(yàn) 。 （ 1） 擬 合 優(yōu) 度 檢 驗(yàn) 回 歸 方 程 的 擬 合 優(yōu) 度 檢 驗(yàn) 就 是 要 檢 驗(yàn) 樣 本 數(shù) 據(jù) 聚 集 在 樣 本 回 歸 直 線 周 圍 的 密 集 程 度 ， 從 而 判 斷 回 歸 方 程 對(duì) 樣 本 數(shù) 據(jù) 的 代 表 程 度 回 歸 方 程 的 擬 合 優(yōu) 度 檢 驗(yàn) 一 般 用 判 定 系 數(shù) R2實(shí) 現(xiàn) 。 該 指 標(biāo) 是 建 立 在 對(duì) 總 離 差 平 方 和 進(jìn) 行 分 解 的 基 礎(chǔ) 之 上 （ 2） 回 歸 方 程 的 顯 著 性 檢 驗(yàn) （ F檢 驗(yàn) ） 回 歸 方 程 的 顯 著 性 檢 驗(yàn) 是 對(duì) 因 變 量 與 所 有 自 變 量 之 間 的 線 性 關(guān) 系 是 否 顯 著 的 一 種 假 設(shè) 檢 驗(yàn) 回 歸 方 程 的 顯 著 性 檢 驗(yàn) 一 般 采 用 F檢 驗(yàn) ， 利 用 方 差 分 析 的 方 法 進(jìn) 行 （ 3） 回 歸 系 數(shù) 的 顯 著 性 檢 驗(yàn) （ t檢 驗(yàn) ） 所 謂 回 歸 系 數(shù) 的 顯 著 性 檢 驗(yàn) ， 就 是 根 據(jù) 樣 本 估 計(jì) 的 結(jié) 果 對(duì) 總 體 回 歸 系 數(shù) 的 有 關(guān) 假 設(shè) 進(jìn) 行 檢 驗(yàn) 之 所 以 對(duì) 回 歸 系 數(shù) 進(jìn) 行 顯 著 性 檢 驗(yàn) ， 是 因 為 回 歸 方 程 的 顯 著 性 檢 驗(yàn) 只 能 檢 驗(yàn) 所 有 回 歸 系 數(shù) 是 否 同 時(shí) 與 零 有 顯 著 性 差 異 ， 它 不 能 保 證 回 歸 方 程 中 不 包 含 不 能 較 好 解 釋 說 明 因 變 量 變 化 的 自 變 量 因 此 ， 可 以 通 過 回 歸 系 數(shù) 顯 著 性 檢 驗(yàn) 對(duì) 每 個(gè) 回 歸 系 數(shù) 進(jìn) 行 考 察 回 歸 參 數(shù) 顯 著 性 檢 驗(yàn) 的 基 本 步 驟 ： 提 出 假 設(shè) 計(jì) 算 回 歸 系 數(shù) 的 t統(tǒng) 計(jì) 量 值 根 據(jù) 給 定 的 顯 著 水 平 確 定 臨 界 值 ， 或 者 計(jì) 算 t值 所 對(duì) 應(yīng) 的 p值 作 出 判 斷 案 例 分 析 1 線 性 回 歸 數(shù) 據(jù) 來 自 國 泰 安 數(shù) 據(jù) 服 務(wù) 中 心 的 經(jīng) 濟(jì) 研 究 數(shù) 據(jù)庫 。 全 國 各 地 區(qū) 能 源 消 耗 量 與 產(chǎn) 量 ， 地 區(qū) 包 括 我 國 30個(gè) 省 、直 轄 市 、 自 治 區(qū) 。9.2.2 SPSS中實(shí)現(xiàn)過程 9.2.2 SPSS中實(shí)現(xiàn)過程 實(shí) 現(xiàn) 步 驟 9.2.3 結(jié)果和討論F=62.265, p0.001,代 表 該 回 歸 模 型 是 顯 著 的 。 9.2.3 結(jié)果和討論 R稱 為 多 元 相 關(guān) 系 數(shù) ， R方 （ R 2） 代 表 模 型 的 擬 合 優(yōu) 度 。 可以 看 到 ， R2=0.991， 該 模 型 擬 合 優(yōu) 度 良 好 。 得 到 的 多 元 線 性 回 歸 方 程 ：Y=-0.126+0.574X1+0.802X20.721X4+ +0.337X18 結(jié)果和討論F=843.821.265, p0.001,代 表 該 回 歸 模 型 是 顯 著 的 。 結(jié)果和討論 R稱 為 多 元 相 關(guān) 系 數(shù) ， R方 （ R 2） 代 表 模 型 的 擬 合 優(yōu) 度 。 可以 看 到 ， R2=0.969， 該 模 型 擬 合 優(yōu) 度 良 好 。 得 到 的 多 元 線 性 回 歸 方 程 ：Y=38.084+0.903X1-0.552X2-0.050X4+ +0.004X18 結(jié) 論 ： 能 源 消 費(fèi) 總 量 主 要 受 煤 炭消 費(fèi) 總 量 的 影 響 ， 成 正 相 關(guān) ； 與原 油 消 費(fèi) 量 和 汽 油 消 費(fèi) 量 成 一 定的 反 比 。 案 例 分 析 2 數(shù) 據(jù) 文 件 選 取 了 從 1978年 到 2008年 山 東 省 國 民 生 產(chǎn) 總 值 與固 定 資 產(chǎn) 投 資 的 年 度 數(shù) 據(jù) ， 數(shù) 據(jù) 來 源 于 山 東 省 統(tǒng) 計(jì) 年 鑒 。下 面 將 利 用 山 東 省 國 民 生 產(chǎn) 總 值 作 為 被 解 釋 變 量 ， 固 定 資 產(chǎn)投 資 作 為 解 釋 變 量 來 建 立 線 性 回 歸 模 型 ， 分 析 固 定 資 產(chǎn) 投 資與 國 民 生 產(chǎn) 總 值 的 關(guān) 系 。 實(shí) 現(xiàn) 步 驟 結(jié)果和討論 F=693.222, p 商 品 的 需 求 除 了 受 自 身 價(jià) 格 的 影 響 外 ， 還 要 受 到 消 費(fèi) 者 收 入 、 其 他 商 品 的 價(jià) 格 、 消 費(fèi) 者 偏 好 等 因 素 的 影 響 影 響 水 果 產(chǎn) 量 的 外 界 因 素 有 平 均 氣 溫 、 平 均 日 照 時(shí) 數(shù) 、 平 均 濕 度 等 。 因 此 ， 在 許 多 場(chǎng) 合 ， 僅 僅 考 慮 單 個(gè) 變 量 是 不 夠 的 ， 還 需 要 就 一 個(gè) 因 變 量 與 多 個(gè) 自 變 量 的 聯(lián) 系 來 進(jìn) 行 考 察 ， 才 能 獲 得 比 較 滿 意 的 結(jié) 果 。 這 就 產(chǎn) 生 了 測(cè) 定 多 因 素 之 間 相 關(guān) 關(guān) 系 的 問 題 研 究 在 線 性 相 關(guān) 條 件 下 ， 兩 個(gè) 或 兩 個(gè) 以 上 自 變 量 對(duì) 一 個(gè) 因 變 量 的 數(shù) 量 變 化 關(guān) 系 ， 稱 為 多 元 線 性 回 歸 分 析 ， 表 現(xiàn) 這 一 數(shù) 量 關(guān) 系 的 數(shù) 學(xué) 公 式 ， 稱 為 多 元 線 性 回 歸 模 型 多 元 線 性 回 歸 模 型 是 一 元 線 性 回 歸 模 型 的 擴(kuò) 展 ， 其 基 本 原 理 與 一 元 線 性 回 歸 模 型 類 似 ， 只 是 在 計(jì) 算 上 更 為 復(fù) 雜 ， 一 般 需 借 助 計(jì) 算 機(jī) 來 完 成 p 對(duì) 多 元 線 性 回 歸 ， 也 需 要 測(cè) 定 方 程 的 擬 合 程 度 、 檢 驗(yàn) 回 歸方 程 和 回 歸 系 數(shù) 的 顯 著 性（ 1） 擬 合 優(yōu) 度 檢 驗(yàn) 測(cè) 定 多 元 線 性 回 歸 的 擬 合 程 度 ， 與 一 元 線 性 回 歸 中 的 判 定系 數(shù) 類 似 ， 使 用 多 重 判 定 系 數(shù) ， 其 定 義 為 （ 2） 回 歸 方 程 的 顯 著 性 檢 驗(yàn) （ F檢 驗(yàn) ） 多 元 線 性 回 歸 方 程 的 顯 著 性 檢 驗(yàn) 一 般 采 用 F檢 驗(yàn) ， 利 用 方 差分 析 的 方 法 進(jìn) 行 （ 3） 回 歸 系 數(shù) 的 顯 著 性 檢 驗(yàn) （ t檢 驗(yàn) ） 回 歸 系 數(shù) 的 顯 著 性 檢 驗(yàn) 是 檢 驗(yàn) 各 自 變 量 x1， x2， ， 對(duì) 因 變量 y的 影 響 是 否 顯 著 ， 從 而 找 出 哪 些 自 變 量 對(duì) y的 影 響 是 重 要的 ， 哪 些 是 不 重 要 的 。 與 一 元 線 性 回 歸 一 樣 ， 要 檢 驗(yàn) 解 釋 變 量 對(duì) 因 變 量 y的 線 性 作用 是 否 顯 著 ， 要 使 用 t檢 驗(yàn) 。 案 例 分 析 3 對(duì) 某 種 商 品 的 需 求 量 及 其 價(jià) 格 和 消 費(fèi) 者 的 收 入 進(jìn) 行 聯(lián) 合 調(diào)查 ， 所 得 數(shù) 據(jù) 如 下 表 所 示 。 建 立 商 品 的 需 求 量 對(duì) 價(jià) 格 及 消 費(fèi)者 收 入 的 回 歸 方 程 。 實(shí) 現(xiàn) 步 驟 結(jié)果和討論 F=53.333, p0.001,代 表 該 回 歸 模 型 是 顯 著 的 。 因 此 可 以 判斷 由 價(jià) 格 及 消 費(fèi) 者 收 入 對(duì) 需 求 量 解 釋 的 部 分 非 常 顯 著 。 R稱 為 多 元 相 關(guān) 系 數(shù) ， R方 （ R2） 代 表 模 型 的 擬 合 優(yōu) 度 。 可以 看 到 ， R2=0.870， 該 模 型 擬 合 優(yōu) 度 較 好 。 得 到 的 線 性 回 歸 方 程 ： Y = 140.000 10.000X1 線 性 回 歸 模 型 中 的 常 數(shù) 和 價(jià) 格 的 t值 分 別 為 140.000和 -7.303， 相 應(yīng) 的概 率 值 為 0.000， 說 明 系 數(shù) 非 常 顯 著 。 系 數(shù) a模 型 B 標(biāo) 準(zhǔn) 誤 差 試 用 版 T P F(P) R21 (常 量 ) 140.000 8.551 16.372 .000 53.333(.000) .870價(jià) 格 -10.000 1.369 -.933 -7.303 .000 F=29.653, p0.001,代 表 該 回 歸 模 型 是 顯 著 的 。 因 此 可 以 判斷 由 價(jià) 格 及 消 費(fèi) 者 收 入 對(duì) 需 求 量 解 釋 的 部 分 非 常 顯 著 。 R稱 為 多 元 相 關(guān) 系 數(shù) ， R方 （ R2） 代 表 模 型 的 擬 合 優(yōu) 度 。 可以 看 到 ， R2=0.894， 該 模 型 擬 合 優(yōu) 度 較 好 。 得 到 的 線 性 回 歸 方 程 ： Y = 111.692 7.188X1 + 0.014X2