Deep Hashing for Compact Binary Codes Learning里的公式推导过程

"Deep Hashing for Compact Binary Codes Learning" 是一篇关于深度哈希学习的论文。该论文提出了一种用于学习紧凑二进制码的深度哈希算法。以下是该论文中深度哈希算法的公式推导过程：

1. 首先，给定一个训练集 $\{x_i\}_{i=1}^n$ 和它们的标签 $\{y_i\}_{i=1}^n$，其中 $x_i$ 是输入数据，$y_i$ 是输出标签。

2. 然后，利用神经网络学习一个将输入数据映射到二进制码的哈希函数 $h(x_i)$，其中 $h(x_i)$ 是一个 $k$ 位的二进制向量，$k$ 是哈希码的长度。

3. 在深度哈希学习中，我们使用多个哈希函数来生成多个二进制码。因此，我们学习 $m$ 个哈希函数，每个哈希函数对应一个二进制码 $B_j$。

4. 对于每个输入数据 $x_i$，我们得到 $m$ 个哈希码 $B_j^i$，其中 $j=1,2,...,m$。

5. 然后，我们将这些哈希码组合成一个紧凑的二进制码 $b_i$，即 $b_i = [B_1^i, B_2^i, ..., B_m^i]$。

6. 确定损失函数，使得学习到的二进制码可以最大程度地保留数据之间的相似度。

7. 定义损失函数 $L$，其中 $L$ 由两部分组成：量化损失和分类损失。

8. 量化损失用于衡量哈希码的质量，分类损失用于保留数据之间的相似度。

9. 量化损失可以表示为：$L_{quan} = \sum_{i=1}^n\sum_{j=1}^m\frac{1}{2}(B_j^i - h_j(x_i))^2$，其中 $h_j(x_i)$ 是第 $j$ 个哈希函数的输出。

10. 分类损失可以表示为：$L_{cls} = -\sum_{i=1}^n\sum_{j=1}^n w_{ij}y_iy_j\log\sigma(b_i^Tb_j)$，其中 $w_{ij}$ 是样本 $i$ 和 $j$ 之间的相似度权重，$\sigma$ 是 sigmoid 函数。

11. 最终的损失函数可以表示为：$L = \lambda L_{quan} + L_{cls}$，其中 $\lambda$ 是量化损失的权重。

12. 在训练过程中，我们使用反向传播算法来优化损失函数，学习到最优的哈希函数和二进制码。

这就是 "Deep Hashing for Compact Binary Codes Learning" 论文中深度哈希算法的公式推导过程。