単回帰分析とは？回帰式・決定係数・p値の求め方を製造業の事例でわかりやすく解説

加工温度を上げると製品強度はどの程度変化するのか、次の条件ではどのくらいの強度になるのか。このような問いに対して、2つの変数の関係を直線の式で表す方法が単回帰分析です。

この記事では、製造業のサンプルデータを使い、傾き・切片・決定係数R²・回帰係数のp値が求まるまでを、読者の皆さんが計算を追える形で解説します。

単回帰分析とは？

単回帰分析とは、1つの説明変数Xを使って、目的変数Yとの関係を直線で表す分析方法です。製造業では、加工温度と製品強度、加工時間と寸法変化量、原料濃度と収率などの関係を評価するときに使われます。

回帰式は次の形で表します。本記事では記号をβ₀とβ₁に統一します。

Ŷは回帰式から予測されるY、β₀は切片、β₁は回帰係数（傾き）、Xは説明変数です。特にβ₁は、Xが1単位増えたときにYが平均的にどれだけ変化するかを表します。

単回帰分析はどんなときに使う？

Xが変化するとYがどの程度変化するか知りたい

加工温度が1℃上昇したとき、製品強度が平均的に何MPa変化するかを傾きから評価できます。単に関係の向きを見るだけでなく、変化量を単位付きで説明できます。

XからYを予測したい

求めた回帰式へ加工温度を代入すると、その条件における製品強度の予測値を計算できます。ただし、観測したXの範囲を大きく超える予測は避ける必要があります。

XとYの線形関係が統計的に有意か確認したい

回帰係数のt値とp値を確認すると、傾きが0とは異なると判断できるかを評価できます。関係を数式で表し、変化量・予測値・統計的有意性まで確認したい場合に単回帰分析が有効です。

単回帰分析の考え方

単回帰分析では、散布図上のデータへ最もよく当てはまる直線を求めます。実測値Y_iと予測値Ŷ_iの差を残差e_iと呼びます。

最小二乗法とは？

残差には正と負があるため、そのまま合計すると打ち消し合います。そこで残差を二乗し、その合計が最も小さくなるように回帰直線を決める方法が最小二乗法です。

この基準によって、目視で線を引くのではなく、同じデータなら誰が計算しても同じ傾きと切片が得られます。

相関分析と単回帰分析の違い

相関係数は2つの変数がどの程度一緒に変化するかを示し、単回帰分析はその関係を直線の式で表します。ただし、相関や回帰係数が有意でも、XがYの原因であることが証明されたわけではありません。

事例：加工温度から製品強度を予測する

加工温度X（℃）と製品強度Y（MPa）の関係を調べます。7条件で測定した架空データを用い、回帰係数からp値まで順番に計算します。

① XとYの平均を求める

Xの合計は1,225、Yの合計は399、データ数は7です。それぞれの平均は次のように求めます。

② XとYの偏差を求める

各データから平均を引き、偏差と積を計算します。この表の合計からS_xxとS_xyを求めます。

③ 回帰係数（傾き）を求める

S_xxはXの偏差平方和、S_xyはXとYの偏差積和です。今回のデータではS_xx＝700、S_xy＝340となります。

傾き0.4857は、加工温度が1℃上昇すると製品強度が平均0.4857MPa増加することを表します。

④ 切片を求める

切片はX̄とȲ、求めた傾きを使って計算します。

切片はX＝0のときの予測値ですが、今回の観測範囲は160～190℃です。X＝0℃は範囲外なので、切片を物理的な強度として単独で解釈する必要はありません。

⑤ 回帰式を作る

例えば加工温度180℃では、Ŷ＝−28＋0.485714×180＝59.429MPaと予測されます。

⑥ 予測値と残差を求める

各Xを回帰式へ代入して予測値Ŷ_iを求め、実測値Y_iから引いて残差を計算します。

⑦ 平方和を求める

Yの全変動は、回帰によって説明できる変動と、回帰では説明できない残差変動に分かれます。

⑧ 決定係数R²を求める

決定係数R²は、Yの全変動のうち回帰式で説明できる割合です。

製品強度のばらつきの約98.3％を加工温度との線形関係で説明できることを示します。ただし、R²が高くても外れ値、データ範囲、残差のパターンに問題があれば、良いモデルとは限りません。

⑨ 残差分散を求める

単回帰分析では切片β₀と傾きβ₁の2つを推定するため、残差自由度はn−2＝5です。残差平均平方MSEは次のように求めます。

⑩ 回帰係数の標準誤差を求める

傾きの標準誤差は、サンプルを取り直したときに傾きの推定値がどの程度変動し得るかを表します。

⑪ t値を求める

帰無仮説をH₀：β₁＝0、対立仮説をH₁：β₁≠0とします。β₁＝0は、Xが変化してもYが線形に変化するとは言えない状態です。

⑫ p値を求める

t＝17.000と自由度5から、t分布を使って両側p値を求めます。Excelでは次の関数で再現できます。

p＜0.05なので帰無仮説を棄却し、加工温度と製品強度には統計的に有意な正の線形関係があると判断します。p値の基本はp値とは？でも解説しています。

単回帰分析の解析結果を整理する

回帰係数表

分散分析表

説明変数が1つの単回帰分析では、傾きの検定についてF＝t²となります。実際に17.000²＝289.000で、分散分析表のF値と一致します。

回帰係数の95％信頼区間

自由度5の両側95％信頼区間に用いるt値は2.5706です。傾きの信頼区間は次のように求めます。

加工温度1℃当たりの強度増加量は、母集団ではおよそ0.412～0.559MPaの範囲と推定されます。この区間に0を含まないことも、有意な正の傾きという結果と整合します。

単回帰分析の結果を解釈する

最初に傾きの符号と大きさを確認します。傾きは正の0.4857なので、加工温度が1℃上昇すると製品強度は平均0.4857MPa増加する関係です。

次にp値は0.0000129であり、傾きは統計的に有意です。R²＝0.9830なので、今回の範囲では製品強度のばらつきの約98.3％を加工温度との線形関係で説明できます。

最後に散布図と残差を確認します。残差は−1.000～0.714MPaの範囲で回帰直線の上下に分布していますが、データ数が7と少ないため、追加データでも関係が再現するか確認することが重要です。

Stat Lab Analyticsでは、ブラウザ上で回帰分析を実行できます。StatLAの回帰分析画面を開き、単回帰分析を選択してください。説明変数が複数ある場合は、公開中の重回帰分析の操作記事が参考になります。

単回帰分析を使うときの注意点

■線形性

XとYの関係が直線でおおむね表現できるか確認します。曲線的な関係がある場合、単純な直線回帰では関係を適切に表せません。

■残差の正規性

回帰モデルの残差がおおむね正規分布に従うかを確認します。ヒストグラムや正規確率プロットを用いると、極端な偏りを把握できます。

■等分散性

Xや予測値の大きさによって残差のばらつきが極端に変化していないか確認します。残差プロットが扇形に広がる場合は、等分散性を満たしていない可能性があります。

■独立性

各観測値や残差が互いに独立していることが重要です。時系列データでは、前後の測定値が関連していないか、工程条件が途中で変化していないかを確認します。

■外れ値・影響点

極端な外れ値が1点あるだけで、回帰直線の傾きが大きく変わる場合があります。散布図、残差、影響度の指標を確認し、測定ミスか実際の現象かを調べます。

■外挿

観測したXの範囲を大きく超えてYを予測することは避けます。データがない領域でも同じ直線関係が続くとは限りません。

■相関・回帰と因果関係

回帰係数が有意でも、XがYの原因であることが証明されたわけではありません。交絡要因、実験計画、データの取得方法も含めて判断します。

まとめ

単回帰分析は、1つの説明変数Xと目的変数Yの関係を直線で表し、変化量や予測値を求める方法です。今回のデータでは回帰式がŶ＝−28.000＋0.4857X、R²が0.9830となりました。

傾きのt値は17.000、p値は0.0000129で、加工温度と製品強度には統計的に有意な正の線形関係が確認されました。実務ではp値だけで終わらせず、傾きの大きさ、R²、散布図、残差、予測する範囲を合わせて判断しましょう。

Stat Lab Analytics（StatLA）

単回帰分析を、実際のデータで試してみよう。

データを入力するだけで回帰式、決定係数R²、回帰係数のp値を確認できます。計算結果をグラフと表で分かりやすく整理できます。

• 登録不要
• 無料
• ブラウザで利用可能

StatLAで単回帰分析を試してみる →