Wishart分类器概念
时间: 2023-05-19 22:00:55 浏览: 79
Wishart分类器是一种基于Wishart分布的分类器,它可以用于多类别分类问题。它的基本思想是将每个类别的数据看作是一个多元正态分布的样本集合,然后利用Wishart分布来描述这些样本的协方差矩阵。通过计算每个样本点到各个类别的Wishart分布的概率,可以将其分类到最有可能的类别中。
相关问题
逆wishart发布
逆Wishart分布是一种多元统计分布,常用于处理协方差矩阵的后验分布。它是Wishart分布的逆分布,常用于贝叶斯统计中的协方差矩阵的先验分布。逆Wishart分布在贝叶斯推断中非常有用,特别是在处理高维数据和协方差矩阵的推断问题时。
逆Wishart分布的参数包括自由度(degrees of freedom)和尺度矩阵(scale matrix)。自由度决定了逆Wishart分布的偏好,而尺度矩阵则表示了逆Wishart分布的精度。逆Wishart分布在统计学、贝叶斯推断以及金融等领域有广泛应用。
wishart分布可加性证明
Wishart分布的可加性可以通过证明矩阵的对数行列式的可加性来得到。具体地,假设$W_1$和$W_2$是两个$p \times p$的Wishart分布的矩阵,自由度分别为$n_1$和$n_2$,尺度矩阵分别为$V_1$和$V_2$。则矩阵的对数行列式的和为:
$$
\begin{aligned}
\log|W_1 + W_2| &= \log|W_1(I + W_1^{-1}W_2)| \\
&= \log|W_1| + \log|I + W_1^{-1}W_2| \\
&= (n_1-p-1)\log|V_1| - \sum_{i=1}^p\log\Gamma\left(\frac{n_1+1-i}{2}\right) \\
&\quad +\log|I + W_1^{-1}W_2| \\
&\quad + (n_2-p-1)\log|V_2| - \sum_{i=1}^p\log\Gamma\left(\frac{n_2+1-i}{2}\right) \\
&= \log|W_1| + \log|I + W_1^{-1/2}(W_1^{-1/2}W_2W_1^{-1/2})W_1^{-1/2}| \\
&\quad + \log|W_2| \\
&\quad - \log|I + W_1^{-1/2}(W_1^{-1/2}W_2W_1^{-1/2})W_1^{-1/2} + W_2^{-1/2}(W_1^{-1/2}W_2W_1^{-1/2})W_2^{-1/2}| \\
&\quad -\sum_{i=1}^p\log\Gamma\left(\frac{n_1+1-i}{2}\right) - \sum_{i=1}^p\log\Gamma\left(\frac{n_2+1-i}{2}\right)
\end{aligned}
$$
其中,我们使用了矩阵的Woodbury矩阵恒等式$(A+UCV)^{-1}=A^{-1}-A^{-1}U(C^{-1}+VA^{-1}U)^{-1}VA^{-1}$,并将$W_1$分解为$W_1=Z_1Z_1^T$,其中$Z_1$是$p \times n_1$的矩阵,满足$Z_1^TZ_1=V_1$。同理,将$W_2$分解为$W_2=Z_2Z_2^T$,其中$Z_2$是$p \times n_2$的矩阵,满足$Z_2^TZ_2=V_2$。
进一步地,我们可以使用矩阵的特征值分解将上式中的$\log|I + W_1^{-1/2}(W_1^{-1/2}W_2W_1^{-1/2})W_1^{-1/2}|$表示为:
$$
\begin{aligned}
\log|I + W_1^{-1/2}(W_1^{-1/2}W_2W_1^{-1/2})W_1^{-1/2}| &= \sum_{i=1}^p\log(1+\lambda_i) \\
&= \sum_{i=1}^p\log\left(\frac{\lambda_i}{1+\lambda_i}\right) + \sum_{i=1}^p\log(1+\lambda_i) \\
&= \log|W_1^{-1}W_2| + \sum_{i=1}^p\log(1+\lambda_i)
\end{aligned}
$$
其中,$\lambda_i$是矩阵$W_1^{-1/2}(W_1^{-1/2}W_2W_1^{-1/2})W_1^{-1/2}$的第$i$个特征值。
综上所述,我们可以将$\log|W_1+W_2|$表示为:
$$
\begin{aligned}
\log|W_1 + W_2| &= \log|W_1| + \log|W_2| + \log|I + W_1^{-1}W_2| \\
&\quad + \sum_{i=1}^p\log(1+\lambda_i) \\
&\quad -\log|I + W_1^{-1/2}(W_1^{-1/2}W_2W_1^{-1/2})W_1^{-1/2} + W_2^{-1/2}(W_1^{-1/2}W_2W_1^{-1/2})W_2^{-1/2}| \\
&\quad -\sum_{i=1}^p\log\Gamma\left(\frac{n_1+1-i}{2}\right) - \sum_{i=1}^p\log\Gamma\left(\frac{n_2+1-i}{2}\right)
\end{aligned}
$$
因此,我们证明了Wishart分布的可加性。