線形回帰

線形回帰とは、データ間の関係を直線のモデル（線形関数）で近似し、未知の値を予測する統計的手法です。目的変数が連続値である場合に使用され、特徴量と目的変数の間に一次式の関係を仮定します。機械学習において最も基本的かつ解釈性が高いアルゴリズムの一つであり、多くの複雑なモデルの基礎となっています。

学習の過程では、予測値と実際の値の誤差を最小にするような直線の傾きと切片を求めます。この際、最小二乗法を用いて誤差の二乗和が最小になるパラメータを算出するのが一般的です。複数の特徴量を用いる場合は重回帰分析と呼ばれ、予測の精度を高めるために変数選択や正則化といった手法が組み合わされることもあります。

G検定では、教師あり学習の代表的なアルゴリズムとして問われます。回帰問題の基本形であり、誤差の最小化という学習の目的が明確です。線形回帰は解釈性が高い一方で、非線形なデータ関係を捉えられないという限界があります。この限界を突破するためにニューラルネットワーク（非線形変換の積み重ね）があるという包含関係を意識してください。