Library Search
结果页

XGBoost 调参心法与数学原理

在 元器件 / 技术栈 / 知识库 中找到 12 个匹配结果。

返回文档库
技术栈

技术栈

5 个
查看全部
XGBoost ## XGBoost XGBoost(eXtreme Gradient Boosting)是由陈天奇于 2014 年创建的**梯度提升树算法优化实现**,被誉为机器学习竞赛的「瑞士军刀」。Kaggle 上超过 50% 的冠军方案都使用了 XGBoost。 **核心价值:** - **极致性能**:C++ 底层,多线程并行,比 scikit-learn GBDT 快 10x+ - **正则化**… 3% LightGBM . LightGBM 的设计哲学 LightGBM 的三个核心问题: > "XGBoost 在大数据上太慢了,内存也吃不起。能不能更快、更省?" 答案:三个算法创新 —— **Leaf-wise / GOSS / EFB**。 ## 2. Leaf-wise vs Level-wise ``` XGBoost (Level-wise): LightGBM (Leaf-w… 2% PyTorch self.conv2 = nn.Conv2d(16, 32, kernel_size=3, padding=1) # → (32, 14, 14) self.bn2 = nn.BatchNorm2d(32) self.conv3 = nn.Conv2d(32, 64, kernel_size=3, padding=1) # → (64, 7, 7)… 1% MLflow 验 ## 目标 用 `mlflow.autolog()` 一行代码自动记录 XGBoost 训练的所有参数、指标、模型,然后在 UI 中对比多次实验。 ## 完整代码 ```python import mlflow import xgboost as xgb from sklearn.datasets import load_breast_cancer from sklearn.model… 1% JAX # JAX 入门教程:纯函数式思维与神经网络 ## 1. JAX 的哲学 JAX 不是另一个 TensorFlow 或 PyTorch。它的核心是**函数变换**:把普通的 Python/NumPy 函数,变换为可微分、可编译、可并行的版本。 ``` 你的函数 f ──► jax.grad(f) ──► 自动求导 ──► jax.jit(f) ──► XL… 1%
知识库

知识库

7 个
XGBoost 调参心法与数学原理 # XGBoost 入门教程:调参心法与数学原理 ## 1. XGBoost 是什么? XGBoost 是基于 **梯度提升决策树 (GBDT)** 的并行优化实现。核心思想:串行训练多棵弱决策树,每棵新树拟合前一步的残差。 $$ \hat{y}_i^{(t)} = \hat{y}_i^{(t-1)} + \eta \cdot f_t(x_i) $$ 其中 $f_t$ 是第 t 棵树,$\… 3% autolog 一行自动追踪 + 对比实验 验 ## 目标 用 `mlflow.autolog()` 一行代码自动记录 XGBoost 训练的所有参数、指标、模型,然后在 UI 中对比多次实验。 ## 完整代码 ```python import mlflow import xgboost as xgb from sklearn.datasets import load_breast_cancer from sklearn.model… 2% Leaf-wise 生长与 GOSS 原理揭秘 . LightGBM 的设计哲学 LightGBM 的三个核心问题: > "XGBoost 在大数据上太慢了,内存也吃不起。能不能更快、更省?" 答案:三个算法创新 —— **Leaf-wise / GOSS / EFB**。 ## 2. Leaf-wise vs Level-wise ``` XGBoost (Level-wise): LightGBM (Leaf-w… 2% 01-hello-world-基础语法 # while 循环 count = 0 while count < 3: print(f" while count = {count}") count += 1 # ===== 5. 函数 ===== def greet(user: str, greeting: str = "Hello") -> str: """返回问候语(带类型注解)""" return… 1% 进阶:双核 FreeRTOS 任务与核间通信 ``` I (xxx) dual_core: ESP32 双核任务演示 I (xxx) dual_core: [Core 0] 显示任务启动 I (xxx) dual_core: [Core 1] 传感器任务启动 I (xxx) dual_core: 所有任务已创建完成! I (xxx) dual_core: [Core 1] 📡 采集 seq=0 | T=25.0°C H=54.5% I (x… 1% 鸢尾花分类:训练 + 交叉验证 + 特征重要性 # XGBoost 鸢尾花分类 Hello World ## 目标 用 XGBoost 在经典 Iris 数据集上完成分类,展示训练、交叉验证、特征重要性可视化。 ## 完整代码 ```python import xgboost as xgb from sklearn.datasets import load_iris from sklearn.model_selection import… 1% JAX 纯函数式思维与神经网络 # JAX 入门教程:纯函数式思维与神经网络 ## 1. JAX 的哲学 JAX 不是另一个 TensorFlow 或 PyTorch。它的核心是**函数变换**:把普通的 Python/NumPy 函数,变换为可微分、可编译、可并行的版本。 ``` 你的函数 f ──► jax.grad(f) ──► 自动求导 ──► jax.jit(f) ──► XL… 1%