深度学习数学基础-线性代数-标量、向量、矩阵和张量

标量、向量、矩阵、张量可以分别理解为0维、1维、2维和多维数组，对应着0维、1维、2维和多维空间（2019年8月14日）。

标量、向量、矩阵、张量可以分别理解为0阶、1阶、2阶和多阶数组，对应着0维、1维、2维和多维空间，每一个单位量的元素个数可以看做是维数，如：

$$
\textbf{x} =
\left[
\begin{matrix}
x_1 \\
x_2
\end{matrix}
\right]^T \qquad 二阶 一维
$$

$$
\textbf{x} =
\left[
\begin{matrix}
x_1 \\
x_2 \\
x_3
\end{matrix}
\right]^T \qquad 三阶 一维
$$

$$
\textbf{x} =
\left[
\begin{matrix}
\left[
\begin{matrix}
x_{1,1} \quad
x_{1,2}
\end{matrix}
\right] \\
\left[
\begin{matrix}
x_{2,1} \quad
x_{2,2}
\end{matrix}
\right]
\end{matrix}
\right] = \left[
\begin{matrix}
\begin{matrix}
x_{1,1} \quad
x_{1,2}
\end{matrix} \\
\begin{matrix}
x_{2,1} \quad
x_{2,2}
\end{matrix}
\end{matrix}
\right] \qquad 二阶 二维
$$

标量

一个标量就是一个单独的数，是一个只有大小的数字。因为其只有一个数字，所以无法表示方向，只能表示大小。

向量

向量是一列数。这些数是有序排列的，向量包含列向量和行向量两种，如：
$$
\textbf{x} =
\left[
\begin{matrix}
x_1 \\
x_2 \\
x_3 \\
\vdots \\
x_n
\end{matrix}
\right]
\\
\\
\textbf{y} =
\left[
\begin{matrix}
y_1 \quad y_2 \quad y_3 \quad \cdots \quad y_n
\end{matrix}
\right]
$$
可以使用$x_i$和$y_i$来表示向量中的元素

一般所说的向量都是列向量

矩阵

矩阵是一个二维数组，其中的每一个元素被两个索引确定，如：
$$
A = \left[
\begin{matrix}
a_{11} \qquad a_{12} \qquad a_{13} \\
a_{21} \qquad a_{22} \qquad a_{23} \\
a_{31} \qquad a_{32} \qquad a_{33}
\end{matrix}
\right]
$$

张量

在某些情况下，我们会讨论坐标超过两维的数组。一般地，一 个数组中的元素分布在若干维坐标的规则网格中，我们称之为张量。我们使用
字体 $\textbf{A}$ 来表示张量 “$\textit{A}$’’。张量 A 中坐标为$(i,j,k)$的元素记作$\textit{A}_{i,j,k}$。