本文主要描述一下概念及算法

• 信息增益的计算方法
• 信息增益比的计算方法
• ID3算法的实现
• C4.5算法的实现
• 决策树的剪枝算法
• 基尼指数的计算方法
• 最小二乘回归树生成算法
• CART生成算法
• CART剪枝算法

输入空间

1. 训练数据：$T = \lbrace (x_1,y_1),(x_2,y_2),\cdots,(x_N,y_N) \rbrace$，

   其中，$x_i=(x^{(1)},x^{(2)},\cdots,x^{(n)})^T$，$x_i^{(j)}$是第$i$个样本的第$j$个特征，$x_i^{(j)} \in \lbrace a_{j1},a_{j2}, \cdots, a_{jS_j} \rbrace$， $a_{jl}$是第$j$个特征可能取到的第$l$个值，$j=1,2,\cdots,n$，$l=1,2,\cdots,S_j$，$y \in \lbrace c_1, c_2, \cdots ,c_K \rbrace$；

   • 训练数据中，共有$N$个数据样本；
   • 每个数据共有$n$个特征，即$n$维；
   • 第$j$个维度的取值可能有$S_j$种；
   • 最终可能的分类有$K$种。

2. 实例：$x$；

输出空间

实例$x$的分类

事情的起因

事情的起因是一道LeetCode题目，具体如下：

1003. 检查替换后的词是否有效

给定有效字符串 “abc”。

对于任何有效的字符串 V，我们可以将 V 分成两个部分 X 和 Y，使得 X + Y（X 与 Y 连接）等于 V。（X 或 Y 可以为空。）那么，X + “abc” + Y 也同样是有效的。

例如，如果 S = “abc”，则有效字符串的示例是：”abc”，”aabcbc”，”abcabc”，”abcabcababcc”。无效字符串的示例是：”abccba”，”ab”，”cababc”，”bac”。

如果给定字符串 S 有效，则返回 true；否则，返回 false。

感知机模型( Perceptron Learning Algorithm )的基础属性

Dockerfile中的一些常用命令

FROM指令

FROM指令是整个Dockerfile的入口，必须是第一条指令。其代表新制作镜像的基础镜像。基础镜像可以自己制作，也可以从开源的仓库pull，例如dockerhub或是国内阿里云的免费仓库。

Docker中存在一种特殊的情况，就是不以任何基础镜像为基准，此时可以第一句话使用：

1

FROM scratch

来表示以空白镜像为基础，也就是直接将可执行文件复制进镜像。例如swarm、coreos/etcd等。