AI超算系统入门与部署指南

AI超算系统使用指南是一份详细介绍了如何高效利用AI超算技术的文档，主要针对那些需要处理大规模深度学习任务的用户。这份指南首先强调了硬件配置的重要性，其中提到最低要求包括： 1. **三大件的最低硬件配置**： - 至少需要1-16张GPU物理卡，对于工作站建议1-4张，服务器则至少4张以上，以确保并行计算能力。 - 物理内存需是GPU内存的1-2倍，以满足训练过程中的内存需求，且不低于GPU显存总量。 - CPU需要具备强大的计算能力，推荐使用aida的内存测试工具测试读写速度达到100GB/s以上，主频不低于3.0GHz。 2. **普通用户升级GPU**： 普通用户可以通过增加GPU来提升性能，例如M40、K40或Quadro K6000等计算卡，这些在2000元以内即可购买，且不会影响其他功能的使用。 3. **超算系统的应用**： - AI超算系统主要通过TrainingServer和TrainingClient构成网络化的服务，它们支持分布式计算，特别适用于CS（Cluster Serving）模式，能够适应各种大规模任务。 - TrainingServer作为专业建模服务器，能够充分利用超算服务器的全部潜力，支持高达128张GPU卡的配置，设备性能越好，性能提升越明显。 4. **训练模式**： - 提供两种训练模式：NormalTraining支持CPU和GPU架构的混合训练，适用于较小规模的任务；而Large-scaleTraining则针对大规模数据集和DNN模型，要求上传数据样本，构建大型训练参数，并仅限于DNN模型。 - 用户可以在训练过程中远程监控和管理单个任务，以及获取训练完成的模型。 5. **软件工具使用**： - 在ModelBuilder中，用户可以选择本地超算进行训练，也可以利用远程超算资源进行扩展训练。 - ImagematrixTool同样支持超算技术，可以根据具体需求选择NormalTraining或Large-scaleTraining模式进行模型训练。 6. **额外参数详解**： 文档还详细解释了额外参数，如GPU ID的管理，以及如何根据不同的训练场景调整参数设置。 这份指南为普通用户和企业提供了实用的指导，无论是升级硬件、选择合适的训练模式还是管理超算服务，都能帮助读者优化AI训练流程，提高效率。