t-sne dnn分类

### 使用 t-SNE 和 DNN 进行分类

#### 方法概述

t-Distributed Stochastic Neighbor Embedding (t-SNE) 是一种用于降维的技术，特别适用于高维数据集的可视化。尽管 t-SNE 主要用于数据探索和可视化，但它也可以作为预处理步骤帮助理解深层神经网络（DNN）模型的学习过程。

为了利用 t-SNE 提升 DNN 的性能并改善分类效果，通常的做法是在训练过程中监控隐藏层激活模式的变化，并通过 t-SNE 可视化这些变化。这有助于评估不同阶段特征表示的质量，从而调整超参数或改进架构设计[^2]。

具体来说：

- **数据准备**：收集足够的标记样本构建训练集；对于未标注的目标域数据同样适用。

- **模型搭建**：建立一个标准的卷积神经网络或其他类型的深度学习模型来进行初步训练。

import tensorflow as tf
from tensorflow.keras import layers, models
    
def build_cnn_model():
    model = models.Sequential()
    model.add(layers.Conv2D(32, (3, 3), activation='relu', input_shape=(height, width, channels)))
    model.add(layers.MaxPooling2D((2, 2)))
    model.add(layers.Flatten())
    model.add(layers.Dense(num_classes, activation='softmax'))
    return model

- **特征提取与转换**：从中间层获取特征向量，并应用 t-SNE 将其映射到低维度空间以便更好地观察聚类情况。

from sklearn.manifold import TSNE
import numpy as np
    
intermediate_layer_model = keras.Model(inputs=model.input,
                                       outputs=model.get_layer('flatten').output)
features = intermediate_layer_model.predict(data)

tsne = TSNE(n_components=2).fit_transform(features)

- **分析结果**：比较有无特定优化措施下特征分布差异，比如加入领域自适应机制前后的情况。如果发现经过适当调优后的模型能够使得源域和目标域之间的距离更近，则说明该策略有效提升了泛化能力。

plt.figure(figsize=(10,5))
plt.subplot(1,2,1)
plt.scatter(tsne[:,0], tsne[:,1], c=y_true, cmap=plt.cm.Spectral)
plt.title("Without Adaptation")

plt.subplot(1,2,2)
plt.scatter(adapted_tsne[:,0], adapted_tsne[:,1], c=y_true, cmap=plt.cm.Spectral)
plt.title("With Adaptation")
plt.show()

这种做法不仅限于二元对比，还可以扩展至多类别场景下的复杂关系探究之中。