淘宝大牛章文嵩:软件基础设施构建与挑战

5星 · 超过95%的资源 需积分: 9 27 下载量 197 浏览量 更新于2024-07-31 收藏 1.15MB PDF 举报
"淘宝软件基础设施构建实践 - 章文嵩(正明) - 淘宝核心系统 - 第三届中国云计算大会" 这篇PPT详细介绍了淘宝在构建其软件基础设施时面临的挑战、解决方法以及一系列关键项目的进展。章文嵩,作为淘宝大牛,分享了他们在系统规模和快速增长面前如何应对的策略。 一、基础设施的规模与挑战 淘宝作为全球排名前列的网站,拥有约20000台生产服务器,面对每年超过100%的增长速度,技术成为电子商务基础设施服务的核心竞争力。挑战主要包括提供高可用性(99.999%)、高可扩展性、低成本、高性能、可维护性以及绿色环保的低碳解决方案。 二、图片存储与CDN系统 淘宝的图片存储系统在2007年前依赖于商用解决方案,如NetApp的FAS980C和NearStore R200,通过SnapShot和SnapVault实现数据冗灾和备份。随着业务发展,原有的系统无法满足需求,逐步演进为自主开发的TFS(Taobao File System)和CDN系统,以提高性能和降低成本。 三、软件基础设施项目 1. TFS:这是一个大规模分布式文件系统,用于存储非结构化数据,如图片和视频,支持高吞吐量和高并发访问。 2. TAIR:淘宝的分布式内存计算系统,用于在线数据分析和实时计算。 3. OceanBase:为淘宝设计的千亿级别分布式表格系统,处理海量交易数据,保证高可用性和强一致性。 4. MySQL优化:针对电商场景优化数据库,提升查询性能和并发处理能力。 5. 面向Java环境的专用计算平台:可能是指JVM层面的优化或特定硬件平台,以提升Java应用的效率。 6. 服务器平台:优化硬件配置,提高能效比,降低运行成本。 7. Linux内核定制与优化:根据淘宝业务需求定制内核,提高系统效率。 8. 组通讯夸父:可能是内部的高效通信框架,提高系统间的协同效率。 9. CDN:内容分发网络,通过在全球范围内缓存内容,加速用户访问速度。 10. 低功耗服务器平台:采用节能技术,降低数据中心能耗。 四、淘宝开源平台 淘宝开源了一些自研的技术,推动社区共享和协作,增强整个行业的创新能力。 五、小结 淘宝在软件基础设施研发中积累了丰富的经验和原则,包括从商用系统到自主开发的转型、持续优化以适应快速增长的业务需求、以及技术创新以确保系统的稳定性和扩展性。 淘宝的软件基础设施建设是一个全面而深入的过程,涉及到从底层存储到应用层的各种关键技术,并且始终关注性能、扩展性、成本和环保。这些实践经验对于其他大型互联网公司具有很高的参考价值。