机器学习的魔法（一）从零开始理解吴恩达的精炼笔记
一、机器学习是什么？ 1、机器学习的概念 机器学习是一种人工智能领域的技术和方法，旨在使计算机系统能够从经验数据中自动学习和改进，而无需显式地进行编程。它涉及开发算法和模型，使计算机能够自动分析和理解数据，并根据经验数据中的模式和规律做出预测或做出决策。 2、机器学习的核心思想 机器学习的核心思想是利用数据来训练计算机系统，使其能够从数据中学习，并根据学习到的知识进行推理和决策。机器学习算法可以自动发现...
机器学习：Pooling层作用及反向传播
CNN网络在反向传播中需要逐层向前求梯度，然而pooling层没有可学习的参数，那它是如何进行反向传播的呢？此外，CNN中为什么要加pooling层，它的作用是什么？ Pooling层 CNN一般采用average pooling或max pooling来进行池化操作，而池化操作会改变feature map的大小，例如大小为64×64的feature map使用2×2的步长池化后，feature map...
机器学习西瓜书之决策树
目录 算法原理剪枝处理连续值处理缺失值处理多变量决策树 算法原理 从逻辑角度：通过一系列if-else语句进行多重判断，比如白富美的判断条件（“白”“富”“美”）。 从几何角度：根据定义的标准进行样本空间的划分。 以二分类问题为例，我们希望通过一系列的条件进行分类。 以下是算法原理的伪代码图： 比较形象的图： 剪枝处理 目的：为了防止模型在训练的过程中将自己的一些特征当成了所有模型都会有的特征，手动将一...
机器学习的简单概述
简单论述机器学习 一、何为机器学习? 机器学习是一种人工智能（AI）的分支，其主要目标是使计算机系统具有从数据中学习并改进性能的能力，而无需明确地进行编程。换句话说，机器学习算法允许计算机系统根据数据中的模式和趋势来自动学习，并且可以根据新数据进行预测或做出决策。 机器学习的主要步骤包括： 数据收集：收集相关的数据，这些数据可以是结构化的（如表格数据）或非结构化的（如文本、图像、音频等）。 数据预处理：...
机器学习：BN层介绍及深入理解
是非常好用的trick，在笔试中也很常考，而之前只是大概知道它的作用，很多细节并不清楚，因此希望用这篇文章彻底解决揭开BN的面纱。 BN层的由来与概念 讲解BN之前，我们需要了解BN是怎么被提出的。在机器学习领域，数据分布是很重要的概念。如果训练集和测试集的分布很不相同，那么在训练集上训练好的模型，在测试集上应该不奏效（比如用ImageNet训练的分类网络去在灰度医学图像上finetune再测试，效果应该...
大数据毕业设计PyFlink+Spark+Hive民宿数据分析可视化大屏 民宿推荐系统 民宿爬虫 民宿大数据 知识图谱 机器学习 计算机毕业设计
大或调整民宿的规模，选择合适的营销渠道，或者进行资源的合理配置。 计算机毕业设计吊打导师PyFlink+Hadoop+Hive民宿数据分析可视化大屏 民宿推荐系统 民宿爬虫 民宿大数据 知识图谱 机器学习 大数据毕业设计 （三）拟解决的关键问题 1、网站为了预防恶意爬虫都会布置反爬虫技术，这要求在使用爬虫技术时应该遵从法律规定，做到友好访问，不破坏、不妨碍网站的正常运行。 2、数据质量问题，民宿数据的...
机器学习：过拟合和欠拟合的介绍与解决方法
快地收敛。但是也有一个问题是，源域数据集中的场景跟我们目标域数据集的场景差异过大时，可能效果会不太好，需要多做实验来判断。 降低模型复杂度：在深度学习中我们可以减少网络的层数，改用参数量更少的模型；在机器学习的决策树模型中可以降低树的高度、进行剪枝等。 正则化方法如 L2 将权值大小加入到损失函数中，根据奥卡姆剃刀原理，拟合效果差不多情况下，模型复杂度越低越好。至于为什么正则化可以减轻过拟合这个问题可以看...
【机器学习】卷积和反向传播
一、说明 自从 AlexNet 在 2012 年赢得 ImageNet 竞赛以来，卷积神经网络 (CNN) 就变得无处不在。从不起眼的 LeNet 到 ResNets 再到 DenseNets，CNN 无处不在。 您是否想知道 CNN 的反向传播中会发生什么，特别是反向传播在 CNN 中的工作原理。如果您读过反向传播，您就会了解它是如何在具有全连接层的简单神经网络中实现的...
机器学习：SVM、softmax、Dropout及最大池化max_pool介绍
一、利用线性SVM进行分类 train_data: (train_num, 3072) 训练流程 初始化权重W: (3072, 10) 梯度dW: (3072, 10)train_data和权重相乘得到score(10,)对应每个类别的分数 2.1 对于每个score中的分数i，如果是正确的类别对应的score跳过 2.2 如果是其他的类别，计算margin=score[i]-correct_score...
机器学习：Softmax介绍及代码实现
Softmax原理 Softmax函数用于将分类结果归一化，形成一个概率分布。作用类似于二分类中的Sigmoid函数。 对于一个k维向量z，我们想把这个结果转换为一个k个类别的概率分布p(z)。softmax可以用于实现上述结果，具体计算公式为： 对于k维向量z来说，其中zi∈Rzi∈R，我们使用指数函数变换可以将元素的取值范围变换到(0,+∞)(0,+∞),之后我们再所有元素求和将结果缩放到[0,1]...