趋动云平台ChatGLM3-6B模型与猫狗识别实战

"这篇实战笔记记录了如何使用趋动云平台免费算力点来部署ChatGLM3-6B模型，以及进行猫狗识别模型的训练。作者通过datawhale的注册链接获得了免费算力，并在2023年11月4日进行了首次AI项目实践，主要是对ChatGLM3-6B模型的部署和猫狗识别模型的训练。在项目创建过程中，涉及了代码、镜像和预训练模型的选择，其中镜像包含了框架引擎（如Pytorch或TensorFlow）、Python版本、操作系统、CUDA版本和硬件资源（CPU或GPU）。预训练模型选用了清华智谱AI的ChatGLM3-6B，该模型可能未经参数微调。项目配置推荐使用8核CPU、24GB内存、1GB GPU和24GB显存的资源。对于代码的理解和修改，作者建议深入学习并参考提供的教程链接。" 本文主要讨论的知识点包括： 1. **趋动云平台**: 这是一个提供AI算力服务的平台，用户可以通过注册链接获取免费的算力点用于部署和训练模型。 2. **ChatGLM3-6B模型**: 这是由清华智谱AI开源的大规模语言模型，可以用于多种自然语言处理任务。在本实践中，模型被用于猫狗识别任务。 3. **模型部署**: 部署AI模型涉及到选择合适的运行环境（镜像），包括选择合适的框架引擎（如Pytorch或TensorFlow）、Python版本、操作系统（如Ubuntu）、CUDA版本和硬件资源。这些配置与模型的运行效率和性能密切相关。 4. **预训练模型选择**: ChatGLM3-6B模型在项目中被直接使用，可能是未经过特定任务微调的原始模型。预训练模型的选择对模型的性能和适应性至关重要。 5. **资源配置**: 为了成功运行项目，推荐的资源配置包括8核CPU、24GB内存和1GB GPU，显存大小为24GB。这确保了模型训练过程中的计算需求得到满足。 6. **代码理解和修改**: 项目的成功运行依赖于对核心代码的深入理解和可能的修改。作者指出这部分需要花费大量时间学习，并提供了相关的教程链接以供参考。 7. **非程序员的学习路径**: 尽管作者非程序员科班出身，但通过这样的实践，他得以了解模型部署背后的流程，降低了入门的难度。 这篇笔记对初学者来说是一份宝贵的指南，详细介绍了如何在趋动云平台上部署大型语言模型并进行特定任务的训练，同时也展示了如何面对和解决实际操作中的问题。