【Python実践】重回帰分析で因果関係を解明し、未来を予測する（コピペで使えるサンプルコード付き）

import pandas as pd
import numpy as np
import statsmodels.api as sm
import pickle

# データをDataFrameに格納
data = {'特徴量1':  [x+5 for x in range(30)],
        '特徴量2':  [x-5 for x in range(30)],
        '特徴量3':  [x+3 for x in range(30)],
        '目的変数': [x   for x in range(30)]
       }
df = pd.DataFrame(data)

# 説明変数と目的変数の分割
X = df[['特徴量1', '特徴量2', '特徴量3']]
y = df['目的変数']

# 定数項を追加
X = sm.add_constant(X)

# OLS (Ordinary Least Squares) モデルの構築と適合
model = sm.OLS(y, X).fit()

# モデルをファイルに保存
with open('./mlr_model.pkl', 'wb') as f:
   pickle.dump(model, f)

# モデルのサマリーを表示
print(model.summary())

import pandas as pd
import statsmodels.api as sm
import pickle

with open('./mlr_model.pkl', 'rb') as f:
    model = pickle.load(f)

# 新しいデータ点
new_data = pd.DataFrame({'特徴量1': [2.8], '特徴量2': [1.8], '特徴量3': [3.2]})

# モデルに含まれる定数項を、予測対象のデータ点に追加
new_data = sm.add_constant(new_data, has_constant='add')

# 予測
predicted = model.predict(new_data)

# 予測結果の表示
print(predicted)

import pandas as pd
from sklearn.linear_model import LinearRegression
from sklearn.linear_model import Lasso, Ridge, ElasticNet

# データをDataFrameに格納
data = {'特徴量1': [x+5 for x in range(30)],
        '特徴量2': [x-5 for x in range(30)],
        '特徴量3': [x+3 for x in range(30)],
        '目的変数': [x for x in range(30)]
        }
df = pd.DataFrame(data)

# 説明変数と目的変数の分割
X = df[['特徴量1', '特徴量2', '特徴量3']]
y = df['目的変数']

# 線形回帰モデルの構築と適合
# 他のモデルを使う場合は、下記の１行を書き換えて下さい。
model = LinearRegression()  

# モデルの作成
model.fit(X, y)

# モデルをファイルに保存
import pickle
with open('./slr_model.pkl', 'wb') as f:
    pickle.dump(model, f)

# モデルの係数と切片を表示
print('係数:', model.coef_)
print('切片:', model.intercept_)

import pandas as pd
from sklearn.linear_model import LinearRegression
import pickle

# モデルを読み込み
with open('./slr_model.pkl', 'rb') as f:
    model = pickle.load(f)

# 新しいデータ点
new_data = pd.DataFrame({'特徴量1': [2.8], '特徴量2': [1.8], '特徴量3': [3.2]})

# 予測
predicted = model.predict(new_data)

# 予測結果の表示
print(predicted)

import pandas as pd
from multiple_linear_regression import MultipleLinearRegression 

# データをDataFrameに格納
data = {'特徴量1': [x+5 for x in range(30)],  # 特徴量1のデータ
        '特徴量2': [x-5 for x in range(30)],  # 特徴量2のデータ
        '特徴量3': [x+3 for x in range(30)],  # 特徴量3のデータ
        '目的変数': [x for x in range(30)]    # 目的変数のデータ
        }
df = pd.DataFrame(data)  # データをDataFrameに変換

# MultipleLinearRegressionクラスのインスタンスを作成
ml = MultipleLinearRegression()

# 線形回帰モデルの構築と適合
model = ml.analyze('目的変数', ['特徴量1', '特徴量2', '特徴量3'], df=df)

# モデルの概要を表示
summary = ml.summary
print(summary)

# モデルの精度を表示（モデル作成時のデータを使って精度を評価）
eval = ml.evaluate(df)
print(eval)

# 予測したいデータを作成
new_data = {'特徴量1': [5,4,3],  # 特徴量1のデータ
            '特徴量2': [5,3,2],  # 特徴量2のデータ
            '特徴量3': [3,3,5],  # 特徴量3のデータ
            '目的変数': [2,4,1]    # 目的変数のデータ
           }
new_df = pd.DataFrame(new_data)  # データをDataFrameに変換

# 引数で与えられたデータフレームに基づいて予測を行う
ml.predict(new_df,['特徴量1', '特徴量2', '特徴量3'])

# 予測結果を表示
print(ml.predict_result)

import pandas as pd
import numpy as np
import statsmodels.api as sm
import pickle
from sklearn.metrics import mean_squared_error, mean_absolute_error, r2_score

class MultipleLinearRegression:
    def __init__(self):
        # 初期化メソッド
        self.df = None                 # モデル作成時に用いるDataFrame（analyze or read_csvでセット）
        self.model = None              # モデル（analyzでセット）
        self.summary = None            # モデル作成時の統計情報
        self.predict_result = None     # 予測結果（predictでセット）
        self.target_column = None      # 目的変数のカラム名(analyzeでセット）
        self.feature_columns = None    # 説明変数のカラム名リスト(analyzeでセット）
        self.model_path = None         # モデルパス(save_modelでセット)
        self.evaluation_results = {}   # 予測精度(evaluateでセット)
        self.residue = []              # 残差()

    def read_csv(self, file_name, encoding="shift-jis"):
        """
        ファイルからデータを読み込むメソッド
        :param file_name: 読み込むファイルのパス (str)
        :param encoding: ファイルのエンコーディング (str)
        """
        self.df = pd.read_csv(file_name, encoding=encoding)

    def analyze(self, target_column, feature_columns, df=None):
        """
        複数の特徴量を使用して重回帰分析を行うメソッド

        Parameters:
        target_column (str): 目的変数のカラム名
        feature_columns (list of str): 特徴量として使用するカラム名のリスト
        df (DataFrame): データフレーム

        Returns:
        None: モデルのサマリーを表示
        """

        # 引数のdfがNoneでないならself.dfにセット
        if df is not None:
            self.df = df

        self.target_column = target_column
        self.feature_columns = feature_columns

        # 特徴量と目的変数を分割
        X = self.df[feature_columns]
        y = self.df[target_column]

        # 定数項を追加
        X = sm.add_constant(X)

        # 最小二乗法でモデルを適合
        self.model = sm.OLS(y, X).fit()

        # 統計情報をプロパティに保存
        self.summary = self.model.summary()
        
        return self.model

    def save_model(self, model_path):
        """
        モデルをファイルに保存するメソッド
        :param model_path: 保存するファイルのパス (str)
        """
        self.model_path = model_path
        with open(model_path, 'wb') as f:
            pickle.dump(self.model, f)

    def load_model(self, model_path=None):
        """
        モデルをファイルから読み込むメソッド
        :param model_path: 読み込むファイルのパス (str)
        """
        if model_path is None:
            model_path = self.model_path

        with open(model_path, 'rb') as f:
            self.model = pickle.load(f)
    
        return self.model

    def predict(self, df, feature_columns=None):
        """
        予測を行うメソッド
        :param df: 予測に使用するデータフレーム (DataFrame)
        :param feature_columns: 特徴量として使用するカラム名のリスト (list of str)
        """

        # 引数のfeature_columnsがNoneならself.feature_columnsを使う
        if feature_columns is None:
            feature_columns = self.feature_columns

        # feature_columnsがNoneでなければ、feature_columnsのカラムのみ抽出
        if feature_columns is not None:
            df = df[feature_columns]
        
        # モデルに含まれる定数項を、予測対象のデータ点に追加
        new_data = sm.add_constant(df, has_constant='add')

        # 予測
        self.predict_result = self.model.predict(new_data)

        return self.predict_result

    def evaluate(self,df = None):
        """
        モデルの精度を評価するメソッド
        :param df: 予測に使用するデータフレーム (DataFrame)
        :return: 精度評価の結果 (dict)
        """

        # df が None から self.df を使う
        if df is None:
            df = self.df
 
        # 予測を行う
        predictions = self.predict(df, self.feature_columns)

        # 実際の値(引数のdfがNoneなら、self.df を使う)
        actual = df[self.target_column] 

        # 残差
        self.residue = actual - predictions

        # 値が０だと精度計算でエラーになるため、ゼロを小さな値に置き換える。
        actual = actual.replace(0, 0.0001)

        # 評価指標を計算
        mse = mean_squared_error(actual, predictions)  # 平均二乗誤差 (Mean Squared Error)
        mae = mean_absolute_error(actual, predictions)  # 平均絶対誤差 (Mean Absolute Error)
        r2 = r2_score(actual, predictions)  # 決定係数 (R-squared)
        mape = np.mean(np.abs((actual - predictions) / actual)) * 100  # 平均絶対パーセント誤差 (Mean Absolute Percentage Error)

        # 結果を辞書で返す
        self.evaluation_results = {
            'MSE': mse,
            'MAE': mae,
            'R2': r2,
            'MAPE': mape
        }

        return self.evaluation_results