机器学习——AdaBoost算法
机器学习——AdaBoost算法 在机器学习领域，AdaBoost算法是一种非常流行的集成学习方法，旨在提高分类器的性能。本篇博客将介绍AdaBoost算法的原理、算法流程、算法参数，对比AdaBoost和随机森林的区别，并使用Python实现AdaBoost算法，并给出总结。 1. 原理 AdaBoost算法（Adaptive Boosting）是一种迭代的集成学习算法，通过迭代地训练一系列弱分类器（...
机器学习——决策树特征选择准则
机器学习——决策树特征选择准则 决策树是一种强大的机器学习模型，它可以用于分类和回归任务。决策树通过树状结构对数据进行分类，每个内部节点表示一个特征，每个叶节点表示一个类别或一个数值。在决策树构建的过程中，特征的选择准则起着至关重要的作用。本篇博客将介绍决策树模型以及常用的特征选择准则，包括熵和条件熵、信息增益、信息增益比和基尼指数，并通过Python代码实现。 1. 决策树模型 决策树是一种基于树状结...
机器学习——XGBoost算法
机器学习——XGBoost算法 XGBoost（eXtreme Gradient Boosting）是一种高效且灵活的机器学习算法，广泛应用于数据挖掘、自然语言处理和推荐系统等领域。它是基于梯度提升树（Gradient Boosting Decision Trees，GBDT）算法的改进版本，在目标函数的定义和求解、节点分裂算法、缺失值处理和算法系统层优化等方面进行了改进和优化。本文将介绍XGBoost...
机器学习金融应用技术指南
1 范围 本文件提供了金融业开展机器学习应用涉及的体系框架、计算资源、数据资源、机器学习引擎、机 器学习服务、安全管理、内控管理等方面的建议。 本文件适用于开展机器学习金融应用的金融机构、技术服务商、第三方安全评估机构等。 2 规范性引用文件 下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文件， 仅该日期对应的版本适用于本文件； 不注日期的引用文件，其最新版本（包括...
机器学习——决策树节点生成算法
机器学习——决策树节点生成算法 决策树是一种常用的机器学习模型，它能够根据数据特征的不同进行分类或回归。决策树的关键在于节点的生成算法，不同的生成算法会影响决策树的结构和性能。本篇博客将介绍三种常用的决策树节点生成算法：ID3算法、C4.5算法和CART算法，包括详细的理论介绍、算法公式和Python实现，并对三种算法进行对比与总结。 1. ID3算法（Iterative Dichotomiser 3）...
机器学习——支持向量机（SVM）
机器学习——支持向量机（SVM） 支持向量机（Support Vector Machine，简称SVM）是一种强大的监督学习算法，常用于分类和回归任务。SVM在分类问题中尤其广受欢迎，因为它不仅能够在线性可分的情况下找到最优的分类超平面，还可以通过核函数处理非线性情况。 在本篇博客中，将介绍支持向量机的理论基础、关键概念以及通过Python代码实现一个简单的SVM分类器。 1. 线性分类基础 支持向量机...
爱因斯坦可以教给在机器学习中利用对称性
爱因斯坦可以教给我们关于机器学习的知识 在机器学习中利用对称性 目录 一、说明二、物理学中的对称性三、机器学习中的对称性四、卷积神经网络 （CNN） 中的对称性五、将对称性集成到机器学习中，用于平面图像及其他图像六、引用 一、说明 在许多方面，物理学和机器学习都有一个共同的目标：制定观察到的现象的模型。为了实现这一目标，物理学家早就认识到对称性的重要性。在这篇文章中，我们将探讨如何利用物理学中的对...
白话讲人工智能、机器学习、深度学习
AI可以划分为多种类别，如符号主义AI（基于逻辑和规则）、连接主义AI（模拟人脑神经网络）、进化计算（借鉴生物进化的原理解决问题）、模糊系统（处理不确定性信息）等。但在这个框架下，我们常讨论的主要是机器学习这一分支，尤其是其中的深度学习。 典型应用： 智能家居：AI让家居设备能理解并响应用户的语音指令，如Google Home或Amazon Echo智能音箱； 自动驾驶：车辆通过AI技术感知环境、制定路...
机器学习——坐标轴下降法和梯度下降法
机器学习——坐标轴下降法和梯度下降法 在机器学习中，优化算法是一种关键的技术，用于寻找模型参数的最优解。坐标轴下降法（Coordinate Descent）和梯度下降法（Gradient Descent）是两种常见的优化算法，用于求解目标函数的最小值。本文将详细介绍坐标轴下降法和梯度下降法的理论基础及Python代码实现进行对比分析。 梯度下降法 梯度下降法是一种常用的优化算法，通过迭代更新参数来使目标...
机器学习 - Reproducibility
In neural networks, it starts with random numbers to describe patterns in data (these numbers are poor descriptions) and try to improve those random numbers using tensor operations to better describe pat...