监督学习与无监督学习：深度学习解析及去噪自编码器

"assignment16 51215901019梁天一1" 本文主要讨论了机器学习的基础概念，特别是有监督学习和无监督学习的区别，以及深度学习的相关知识，包括损失函数、过拟合和欠拟合的定义，深度学习的基本步骤，以及图像去噪中的编码器技术。同时，还提到了一些拓展性的网络模型和去噪新方法。 一、机器学习基础 有监督学习是基于已有的输入-输出数据对（x和y）来训练模型，目标是使预测输出y_hat尽可能接近真实值y。这种学习方式常用于分类和回归问题。 无监督学习则不同，它处理的数据没有预知的输出标签。算法需要自己发现数据中的结构和模式，如聚类（Clustering）是无监督学习的一个典型应用。 二、损失函数 损失函数是评估模型预测效果好坏的标准，它衡量模型预测与真实结果之间的差距。在训练神经网络时，我们会优化损失函数以提高模型的性能。 三、模型拟合问题 过拟合是指模型在训练数据上表现优异，但在未见过的数据上表现糟糕，这通常是因为模型过于复杂，过度学习了训练数据的噪声。欠拟合则是模型无法捕捉到数据的复杂性，导致训练数据和未知数据上的表现都不理想。 四、深度学习步骤 1. 定义一组函数：构建神经网络结构，定义模型的前向传播过程。 2. 模型和数据拟合：通过反向传播和优化算法（如梯度下降）调整模型参数，使其尽可能地拟合数据。 3. 选择最优函数：在验证集上比较不同模型或超参数设置，选择性能最佳的模型。 五、图像去噪编码器 去噪自编码器（Denoising AutoEncoder, DAE）是用于图像去噪的一种特殊自编码器，它通过在输入中引入随机噪声，训练模型学习恢复原始无噪声输入的能力。合同自编码器（Contractive AutoEncoder）则通过正则化手段增强模型的鲁棒性。 六、拓展作业 1. 常见网络模型如VGG（Visual Geometry Group）网络，以其深度和重复的卷积层结构著称，用于图像识别和分类。 2. 文献“Restormer: Efficient Transformer for High-Resolution Image Restoration”探讨了如何利用Transformer架构进行高分辨率图像修复，展示了Transformer在图像处理领域的潜力，尤其是在CNN的基础上提升性能。 本资源涵盖了机器学习的基础概念，深度学习的核心要素，以及图像处理领域的最新进展。无论是对于初学者还是深入研究者，这些都是理解现代AI技术不可或缺的知识点。