Tag: Classification

• Feb 11, 2022

  D2L-13-Softmax_Regression

  D2L-13-Softmax_Regression

  Softmax 回归 2022-02-11 Tags: #SoftmaxRegression #MachineLearning #Classification #MulticlassClassification Softmax回归解决的是多分类问题, 它可以看作是二分类的Logistic_Regression.md)的推广. Softmax函数 Softmax回归 Softmax回归就是在线性回归的基础上套上一个Softmax函数, 取输出结果中概率最大的项作为预测结果. 交叉熵作为损失函数 D2L-14-Cross Entropy as Loss Softmax and Argmax 不像Softmax输出K个概率值, Argmax函数直接将输入向量里面最大的元素设置为1, 其他均置为0. Argmax常常用于输出预测结果, 但是Argmax有个很严重的缺点: 它的结果没法用于反向传播优化参数: (因为它要么不可导要么导数为0) 解释:...

  11/19/2023

  • All
  • SoftmaxRegression
  • MachineLearning
  • Classification
  • MulticlassClassification

• Feb 11, 2022

  Relation_between_Softmax_and_Logistic_Regression

  Relation_between_Softmax_and_Logistic_Regression

  Softmax 与 Logistic 回归的联系 2022-02-11 Tags: #SoftmaxRegression #LogisticRegression #Classification #MulticlassClassification Ref: Unsupervised Feature Learning and Deep Learning Tutorial 二分类的Softmax回归形式如下: $$h_{\theta}(x)=\frac{1}{\exp \left(\theta^{(1) \top}...

  11/19/2023

  • All
  • SoftmaxRegression
  • LogisticRegression
  • Classification
  • MulticlassClassification

• Aug 19, 2021

  Part.11_Classification(ML_Andrew.Ng.)

  Part.11_Classification(ML_Andrew.Ng.)

  Classification 2021-08-19 Tags: #MachineLearning #Classification 分类问题最简单的情况是二分类问题(Binary Classification), 更一般的情况是多分类问题. 分类问题与回归问题最大的不同是其对输出的要求是离散的, 线性函数/回归在分类问题上面不适用. ...

  11/19/2023

  • All
  • MachineLearning
  • Classification

• Aug 19, 2021

  Part.12_Logistic_Regression(ML_Andrew.Ng.)

  Part.12_Logistic_Regression(ML_Andrew.Ng.)

  Logistic Regression 2021-08-19 Tags: #LogisticRegression #MachineLearning #Classification Logistic Function Hypothesis Representation 我们可以通过对线性回归的方法进行一些小改动来匹配回归问题, 在线性回归的时候, $h(x)$的输出与分类问题的"值域"偏差较大, 比如在二分类问题里面, 要求$y=0\space or\space 1$, 但是$h(x)$会输出大于一或者小于零的数. 为了解决这个问题, 我们将$h(x)$作为逻辑斯蒂函数的输入, 将任意输出匹配到$(0,1)$区间里面去, 方便分类. $$\begin{aligned} &h_{\theta}(x)=g\left(\theta^{T}...

  11/19/2023

  • All
  • LogisticRegression
  • MachineLearning
  • Classification

• Aug 19, 2021

  Part.16_MulticlassClassification-One_vs_Rest(ML_Andrew.Ng.)

  Part.16_MulticlassClassification-One_vs_Rest(ML_Andrew.Ng.)

  One vs Rest 2021-08-19 Tags: #MulticlassClassification #Classification #MachineLearning AKA: One vs All MulticlassClassification $$\begin{aligned} &y \in\{0,1 \ldots n\} \\ &h_{\theta}^{(0)}(x)=P(y=0 \mid x ; \theta) \\ &h_{\theta}^{(1)}(x)=P(y=1...

  11/19/2023

  • All
  • MulticlassClassification
  • Classification
  • MachineLearning