没有合适的资源?快使用搜索试试~ 我知道了~
首页Practical Enterprise Data Lake Insights--2018
Practical Enterprise Data Lake Insights--2018
需积分: 10 79 浏览量
更新于2023-05-26
评论
收藏 5.16MB PDF 举报
What You’ll Learn Get to know data lake architecture and design principles Implement data capture and streaming strategies Implement data processing strategies in Hadoop Understand the data lake security framework and availability model
资源详情
资源评论
资源推荐

Practical Enterprise Data Lake Insights
ISBN-13 (pbk): 978-1-4842-3521-8 ISBN-13 (electronic): 978-1-4842-3522-5
https://doi.org/10.1007/978-1-4842-3522-5
Library of Congress Control Number: 2018948701
Copyright © 2018 by Saurabh Gupta, Venkata Giri
is work is subject to copyright. All rights are reserved by the Publisher, whether the whole or
part of the material is concerned, specically the rights of translation, reprinting, reuse of
illustrations, recitation, broadcasting, reproduction on microlms or in any other physical way,
and transmission or information storage and retrieval, electronic adaptation, computer software,
or by similar or dissimilar methodology now known or hereafter developed.
Trademarked names, logos, and images may appear in this book. Rather than use a trademark
symbol with every occurrence of a trademarked name, logo, or image we use the names, logos,
and images only in an editorial fashion and to the benet of the trademark owner, with no
intention of infringement of the trademark.
e use in this publication of trade names, trademarks, service marks, and similar terms, even if
they are not identied as such, is not to be taken as an expression of opinion as to whether or not
they are subject to proprietary rights.
While the advice and information in this book are believed to be true and accurate at the date of
publication, neither the authors nor the editors nor the publisher can accept any legal
responsibility for any errors or omissions that may be made. e publisher makes no warranty,
express or implied, with respect to the material contained herein.
Managing Director, Apress Media LLC: Welmoed Spahr
Acquisitions Editor: Nikhil Karkal
Development Editor: Laura Berendson
Coordinating Editor: Divya Modi
Cover designed by eStudioCalamar
Cover image designed by Freepik (www.freepik.com)
Distributed to the book trade worldwide by Springer Science+Business Media NewYork,
233 Spring Street, 6th Floor, NewYork, NY 10013. Phone 1-800-SPRINGER, fax (201) 348-4505,
e-mail orders-ny@springer-sbm.com, or visit www.springeronline.com. Apress Media, LLC is a
California LLC and the sole member (owner) is Springer Science + Business Media Finance Inc
(SSBM Finance Inc). SSBM Finance Inc is a Delaware corporation.
For information on translations, please e-mail rights@apress.com, or visit http://www.apress.
com/rights-permissions.
Apress titles may be purchased in bulk for academic, corporate, or promotional use. eBook
versions and licenses are also available for most titles. For more information, reference our Print
and eBook Bulk Sales web page at http://www.apress.com/bulk-sales.
Any source code or other supplementary material referenced by the author in this book is available
to readers on GitHub via the book’s product page, located at www.apress.com/978-1-4842-3521-8.
For more detailed information, please visit http://www.apress.com/source-code.
Printed on acid-free paper
SaurabhGupta
Bangalore, Karnataka, India
VenkataGiri
Bangalore, Karnataka, India
www.allitebooks.com

iii
About the Authors �������������������������������������������������������������������������������� xi
About the Technical Reviewer �����������������������������������������������������������xiii
Acknowledgments ������������������������������������������������������������������������������xv
Foreword ������������������������������������������������������������������������������������������xvii
Table of Contents
Chapter 1: Introduction to Enterprise Data Lakes ��������������������������������1
Data explosion: thebeginning �������������������������������������������������������������������������������3
Big data ecosystem �����������������������������������������������������������������������������������������������6
Hadoop andMapReduce– Early days �������������������������������������������������������������7
Evolution ofHadoop �����������������������������������������������������������������������������������������8
History ofData Lake ��������������������������������������������������������������������������������������������11
Data Lake: theconcept ���������������������������������������������������������������������������������� 12
Data lake architecture �����������������������������������������������������������������������������������������13
Why Data Lake? ���������������������������������������������������������������������������������������������15
Data Lake Characteristics������������������������������������������������������������������������������16
Data lake vs� Data warehouse ����������������������������������������������������������������������������19
How toachieve success withData Lake? �����������������������������������������������������������21
Data governance anddata operations �����������������������������������������������������������22
Data democratization withdata lake ������������������������������������������������������������������25
Fast Data- Life beyond Big Data ������������������������������������������������������������������������28
Conclusion ����������������������������������������������������������������������������������������������������������30
www.allitebooks.com

iv
Chapter 2: Data lake ingestion strategies ������������������������������������������33
What is data ingestion? ��������������������������������������������������������������������������������������34
Understand thedata sources ������������������������������������������������������������������������35
Structured vs� Semi-structured vs� Unstructured data ����������������������������������37
Data ingestion framework parameters ���������������������������������������������������������� 39
ETL vs� ELT �����������������������������������������������������������������������������������������������������45
Big Data Integration withData Lake �������������������������������������������������������������������47
Hadoop Distributed File System (HDFS) ��������������������������������������������������������48
Copy les directly into HDFS �������������������������������������������������������������������������49
Batched data ingestion ����������������������������������������������������������������������������������49
Challenges anddesign considerations ���������������������������������������������������������������51
Design considerations �����������������������������������������������������������������������������������52
Commercial ETL tools ������������������������������������������������������������������������������������ 57
Real-time ingestion ���������������������������������������������������������������������������������������58
CDC design considerations ����������������������������������������������������������������������������60
Example ofCDC pipeline: Databus, LinkedIn’s open-source solution ������������61
Apache Sqoop �����������������������������������������������������������������������������������������������������64
Sqoop 1 ���������������������������������������������������������������������������������������������������������64
Sqoop 2 ���������������������������������������������������������������������������������������������������������65
How Sqoop works? ����������������������������������������������������������������������������������������66
Sqoop design considerations ������������������������������������������������������������������������67
Native ingestion utilities �������������������������������������������������������������������������������������71
Oracle copyToBDA �����������������������������������������������������������������������������������������72
Greenplum gphdfs utility �������������������������������������������������������������������������������73
Data transfer fromGreenplum tousing gpfdist ��������������������������������������������� 76
Table of ConTenTsTable of ConTenTs
www.allitebooks.com
剩余334页未读,继续阅读

















安全验证
文档复制为VIP权益,开通VIP直接复制

评论0