在数据分析的世界里，回归分析是一项基础且至关重要的技术。它可以帮助我们理解变量之间的关系，预测未来的趋势，甚至做出决策。本文将带你轻松入门线性回归、逻辑回归和岭回归，让你掌握数据分析的核心技巧。
线性回归：寻找数据的线性关系
线性回归是最简单的回归分析方法，它假设因变量与自变量之间存在线性关系。其基本公式如下：
\[ y = \beta_0 + \beta_1x_1 + \beta_2x_2 + ... + \beta_nx_n + \epsilon \]
其中，\(y\) 是因变量，\(x_1, x_2, ..., x_n\) 是自变量，\(\beta_0, \beta_1, ..., \beta_n\) 是回归系数，\(\epsilon\) 是误差项。
线性回归的目的是找到最佳的回归系数，使得预测值与实际值之间的误差最小。这可以通过最小二乘法来实现。
示例：房价预测
假设我们想要预测一栋房子的价格，影响因素包括房屋面积、房间数量和楼层。我们可以使用线性回归来建立模型，并预测不同条件下的房价。
import numpy as np
from sklearn.linear_model import LinearRegression
# 创建数据集
X = np.array([[1000, 3, 1], [1500, 4, 2], [2000, 5, 3], ...])
y = np.array([200000, 250000, 300000, ...])
# 创建线性回归模型
model = LinearRegression()
# 训练模型
model.fit(X, y)
# 预测房价
predicted_price = model.predict([[1200, 3, 2]])
print("预测房价：", predicted_price)
逻辑回归：处理分类问题
逻辑回归是线性回归的变种，用于处理分类问题。其基本思想是，通过线性组合特征值，将结果映射到（0，1）区间，表示某个事件发生的概率。
逻辑回归的公式如下：
\[ P(y=1) = \frac{1}{1 + e^{-(\beta_0 + \beta_1x_1 + \beta_2x_2 + ... + \beta_nx_n)}} \]
其中，\(P(y=1)\) 表示事件发生的概率，\(\beta_0, \beta_1, ..., \beta_n\) 是回归系数。
示例：判断客户是否购买
假设我们想要判断一位客户是否购买了一款产品，影响因素包括年龄、收入和性别。我们可以使用逻辑回归来建立模型，并预测客户是否购买。
import numpy as np
from sklearn.linear_model import LogisticRegression
# 创建数据集
X = np.array([[25, 50000, 0], [35, 60000, 1], [45, 70000, 0], ...])
y = np.array([0, 1, 0, ...])
# 创建逻辑回归模型
model = LogisticRegression()
# 训练模型
model.fit(X, y)
# 预测购买概率
predicted_probability = model.predict_proba([[30, 55000, 1]])
print("购买概率：", predicted_probability)
岭回归：处理多重共线性
当自变量之间存在多重共线性时，线性回归模型的预测效果会受到影响。此时，我们可以使用岭回归来解决这个问题。
岭回归的原理是在线性回归的基础上，对回归系数进行惩罚。惩罚的大小由参数 \(\alpha\) 决定，其值越大，惩罚力度越大。
岭回归的公式如下：
\[ \min_{\beta} \sum_{i=1}^{n} (y_i - \beta_0 - \beta_1x_{1i} - ... - \beta_nx_{ni})^2 + \alpha \sum_{j=1}^{n} \beta_j^2 \]
其中，\(\beta_0, \beta_1, ..., \beta_n\) 是回归系数，\(\alpha\) 是惩罚参数。
示例：股票价格预测
假设我们想要预测一只股票的价格，影响因素包括成交量、市盈率和市净率。我们可以使用岭回归来建立模型，并预测股票价格。
import numpy as np
from sklearn.linear_model import Ridge
# 创建数据集
X = np.array([[100, 20, 2], [150, 25, 3], [200, 30, 4], ...])
y = np.array([100, 150, 200, ...])
# 创建岭回归模型
model = Ridge(alpha=0.5)
# 训练模型
model.fit(X, y)
# 预测股票价格
predicted_price = model.predict([[120, 22, 3]])
print("预测股票价格：", predicted_price)
通过以上三个回归方法的学习，相信你已经掌握了数据分析的核心技巧。在实际应用中，根据问题的特点选择合适的回归方法，才能得到准确的预测结果。