吕品:星环科技创新架构引领大数据在行业深度应用
需积分: 10 5 浏览量
更新于2024-07-19
收藏 1.9MB PDF 举报
在2016年的普元Pworld大会上,吕品分享了关于“创新架构推动大数据的行业应用”的主题演讲。他以星环科技作为核心,探讨了如何通过其独特的产品特性来驱动大数据在各行业的实际应用。
首先,星环科技的产品亮点包括TranswarpDataHub,这是一种创新的架构设计,提供最完整的SQL支持,特别是对SQL2003有高度兼容性(达到99%),且是唯一支持PL/SQL(98%)和分布式事务(ACID)的SQL引擎。这种特性使其适用于数据仓库和数据集市场景,可以作为Oracle、DB2等分析型数据库的补充或替代方案。
星环科技的高效内存/SSD计算引擎,是基于Hadoop的,能实现与硬盘相比高达一个数量级的速度提升,对于构建实时的数据集市以及与主流报表工具的集成非常关键。此外,其分布式机器学习算法库极为丰富,支持超过50种算法和5000+ R语言算法包,特别适用于金融行业的风险控制、反欺诈、文本分析及精准营销等场景。
星环科技还提供了最完整的SQL和索引支持的NoSQL数据库,包括图数据库和图算法,以及非结构化数据存储能力,确保了数据的全面处理。对于并发查询性能,系统具有高并发支持,保证了系统的稳定性和效率。
在实时数据处理方面,星环科技展示了其健壮的流处理框架,具备ExactlyOnce语义保证,实现所有组件的高可用性(HA),支持流式SQL和流式机器学习。它与Apache的多个项目如Stream、Hyperbase和ElasticSearch等紧密集成,提供实时数据同步、日志采集、搜索和数据集成等功能。
TranswarpManager作为资源管理和调度工具,内置TranswarpExtension,优化了存储在HDFS中的数据,利用TranswarpErasureCode进行数据冗余保护。同时,星环科技也支持传统的批处理框架如Pig和MapReduce2,以及实时数据同步工具如TranswarpDataAlive和消息队列Kafka。
星环科技的TranswarpDataAlive则强调了数据的实时更新和集成,而工作流管理和日志采集工具如Oozie、Flume等确保了业务流程的顺畅执行。在数据分析和机器学习领域,星环提供了全套解决方案,包括数据挖掘、交互式分析工具HUE,以及安全管控服务Guardian和协作服务Zookeeper。
最后,星环科技采用基于Docker的微服务架构,实现CPU、内存的优先级调度,以及弹性微服务管理系统(TranswarpOperatingSystem)。此外,还有专门的磁盘存储和网络管理,如VLAN manager,保证了整个系统的高效运行和稳定。
吕品在Pworld2016上所分享的星环科技的创新架构,展示了其在大数据领域的综合优势,不仅在技术层面提供强大的处理能力和算法支持,而且注重用户体验和整体解决方案的完整性,为行业用户带来了显著的价值提升。
2021-11-27 上传
2021-09-15 上传
2021-07-03 上传
2019-08-16 上传
点击了解资源详情
点击了解资源详情
点击了解资源详情
点击了解资源详情
点击了解资源详情
佳兰小筑
- 粉丝: 1
- 资源: 21
最新资源
- C语言数组操作:高度检查器编程实践
- 基于Swift开发的嘉定单车LBS iOS应用项目解析
- 钗头凤声乐表演的二度创作分析报告
- 分布式数据库特训营全套教程资料
- JavaScript开发者Robert Bindar的博客平台
- MATLAB投影寻踪代码教程及文件解压缩指南
- HTML5拖放实现的RPSLS游戏教程
- HT://Dig引擎接口,Ampoliros开源模块应用
- 全面探测服务器性能与PHP环境的iprober PHP探针v0.024
- 新版提醒应用v2:基于MongoDB的数据存储
- 《我的世界》东方大陆1.12.2材质包深度体验
- Hypercore Promisifier: JavaScript中的回调转换为Promise包装器
- 探索开源项目Artifice:Slyme脚本与技巧游戏
- Matlab机器人学习代码解析与笔记分享
- 查尔默斯大学计算物理作业HP2解析
- GitHub问题管理新工具:GIRA-crx插件介绍