ChatGPT算力需求剧增：大模型与多模态趋势下的万亿级投资

随着ChatGPT的崛起和普及，其对算力的需求呈现出显著的扩张趋势。不同于传统的基于小模型的人工智能，ChatGPT依赖于大规模（大模型）架构，这种结构使得它能够适应广泛的通用场景，但同时也带来了模型参数量和预训练数据量的急剧增长，算力因此成为衡量投入的重要指标。 据初步估算，以ChatGPT目前约2500万的日活跃用户，以及使用高性能的英伟达A100芯片为计算基础，访问阶段的算力投入大约达到了8亿美元。而在训练阶段，每次训练所需的算力就更为庞大，大约单次投入140万美元。考虑到Google每日的搜索量高达35亿次，这意味着ChatGPT的用户增长潜力巨大，这将进一步推动算力需求的增长。 随着技术的发展，ChatGPT不再局限于文本交互，而是向着多模态方向迈进，不仅处理自然语言，还能处理图像、视频等多种形式的信息。比如OpenAI的DALL-E2和Stable Diffusion，这些模型的训练数据量巨大，如DALL-E2使用的6.5亿张图片所组成的训练集达到了惊人的155TB。这样的多模态模型对算力芯片的需求远超过仅处理文本的语言模型，预示着未来的算力需求将更加激增。 在实际应用中，ChatGPT的影响力已经扩展到多个平台。例如，Outlook邮件服务已经开始集成OpenAI技术，使得GPT能自动生成格式化的邮件回复，这一功能可能导致每日数据生成量剧增，从目前的33GB跃升至约261GB，相当于当前的近8倍。此外，语音交互方面，Microsoft Teams与OpenAI的合作也展示了ChatGPT在语音处理领域的潜力，进一步推动算力需求的增长。 ChatGPT的快速发展不仅体现在其庞大的用户基数，更在于其向多模态的演进，这导致了对算力的巨大需求。随着应用场景的多元化，特别是在处理高带宽数据如图像和语音时，我们可以预见，未来几年将是算力需求高速扩张的时代，这对于数据中心基础设施和芯片制造商来说都提出了新的挑战和机遇。