Python xgboost 模块：使用实例

import xgboost as xgb  # 导入xgboost库
import numpy as np  # 导入numpy库以创建数据

# 生成虚拟数据
X = np.random.rand(100, 10)  # 创建100个样本，每个样本10个特征
y = np.random.rand(100)  # 生成100个目标值

# 创建DMatrix数据格式（xgboost的支持数据结构）
dtrain = xgb.DMatrix(X, label=y)

# 设置模型参数
params = {
    'objective': 'reg:squarederror',  # 设定回归目标
    'max_depth': 5,  # 树的最大深度
    'learning_rate': 0.1  # 学习率
}

# 训练模型
bst = xgb.train(params, dtrain, num_boost_round=100)  # 100轮训练

# 数据预测
predictions = bst.predict(dtrain)  # 对训练数据进行预测
print(predictions)  # 输出预测结果

from sklearn.datasets import load_iris  # 导入sklearn的鸢尾花数据集
from sklearn.model_selection import train_test_split  # 导入训练集拆分工具
from sklearn.metrics import accuracy_score  # 导入准确率评估函数

# 加载鸢尾花数据集
iris = load_iris()
X = iris.data  # 特征数据
y = iris.target  # 目标数据

# 将数据分为训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

# 创建DMatrix格式
dtrain = xgb.DMatrix(X_train, label=y_train)  
dtest = xgb.DMatrix(X_test, label=y_test)  

# 设置模型参数
params = {
    'objective': 'multi:softmax',  # 多分类目标
    'num_class': 3,  # 类别数
    'max_depth': 4,  # 树的最大深度
    'learning_rate': 0.3  # 学习率
}

# 训练模型
bst = xgb.train(params, dtrain, num_boost_round=50)  # 50轮训练

# 数据预测
predictions = bst.predict(dtest)  # 对测试数据进行预测
accuracy = accuracy_score(y_test, predictions)  # 计算准确率
print(f"Accuracy: {accuracy:.2f}")  # 输出准确率

import matplotlib.pyplot as plt  # 导入绘图库

# 使用之前训练好的模型计算特征重要性
importance = bst.get_score(importance_type='weight')  # 获取特征重要性权重

# 将特征重要性可视化
plt.bar(range(len(importance)), importance.values(), align='center')
plt.xticks(range(len(importance)), list(importance.keys()))  # 设置x轴标签
plt.xlabel('Features')  # x轴名称
plt.ylabel('Importance')  # y轴名称
plt.title('Feature Importance')  # 图表标题
plt.show()  # 显示图表