没有合适的资源?快使用搜索试试~ 我知道了~
首页Data Mining Algorithms in C++
Data Mining Algorithms in C++
需积分: 9 32 下载量 181 浏览量
更新于2023-03-16
评论 1
收藏 4.56MB PDF 举报
Data Mining Algorithms in C++_Data Patterns and Algorithms for Modern Applications(2018).pdf
资源详情
资源评论
资源推荐
Data Mining
Algorithms
in C++
Data Patterns and Algorithms for Modern
Applications
—
Timothy Masters
Data Mining Algorithms
in C++
Data Patterns and Algorithms for
Modern Applications
TimothyMasters
Data Mining Algorithms in C++
ISBN-13 (pbk): 978-1-4842-3314-6 ISBN-13 (electronic): 978-1-4842-3315-3
https://doi.org/10.1007/978-1-4842-3315-3
Library of Congress Control Number: 2017962127
Copyright © 2018 by Timothy Masters
is work is subject to copyright. All rights are reserved by the Publisher, whether the whole or part of the
material is concerned, specically the rights of translation, reprinting, reuse of illustrations, recitation,
broadcasting, reproduction on microlms or in any other physical way, and transmission or information
storage and retrieval, electronic adaptation, computer software, or by similar or dissimilar methodology now
known or hereafter developed.
Trademarked names, logos, and images may appear in this book. Rather than use a trademark symbol with
every occurrence of a trademarked name, logo, or image we use the names, logos, and images only in an
editorial fashion and to the benet of the trademark owner, with no intention of infringement of the
trademark.
e use in this publication of trade names, trademarks, service marks, and similar terms, even if they are not
identied as such, is not to be taken as an expression of opinion as to whether or not they are subject to
proprietary rights.
While the advice and information in this book are believed to be true and accurate at the date of publication,
neither the authors nor the editors nor the publisher can accept any legal responsibility for any errors or
omissions that may be made. e publisher makes no warranty, express or implied, with respect to the
material contained herein.
Cover image by Freepik (www.freepik.com)
Managing Director: Welmoed Spahr
Editorial Director: Todd Green
Acquisitions Editor: Steve Anglin
Development Editor: Matthew Moodie
Technical Reviewers: Massimo Nardone and Michael omas
Coordinating Editor: Mark Powers
Copy Editor: Kim Wimpsett
Distributed to the book trade worldwide by Springer Science+Business Media NewYork,
233 Spring Street, 6th Floor, NewYork, NY 10013. Phone 1-800-SPRINGER, fax (201) 348-4505,
e-mail orders-ny@springer-sbm.com, or visit www.springeronline.com. Apress Media, LLC is a California
LLC and the sole member (owner) is Springer Science + Business Media Finance Inc (SSBM Finance Inc).
SSBM Finance Inc is a Delaware corporation.
For information on translations, please e-mail rights@apress.com, or visit www.apress.com/
rights-permissions.
Apress titles may be purchased in bulk for academic, corporate, or promotional use. eBook versions and
licenses are also available for most titles. For more information, reference our Print and eBook Bulk Sales
web page at www.apress.com/bulk-sales.
Any source code or other supplementary material referenced by the author in this book is available to
readers on GitHub via the book’s product page, located at www.apress.com/9781484233146. For more
detailed information, please visit www.apress.com/source-code.
Printed on acid-free paper
TimothyMasters
Ithaca, New York, USA
iii
About the Author ���������������������������������������������������������������������������������������������������� vii
About the Technical Reviewers ������������������������������������������������������������������������������� ix
Introduction ������������������������������������������������������������������������������������������������������������� xi
Table of Contents
Chapter 1: Information andEntropy ������������������������������������������������������������������������� 1
Entropy ������������������������������������������������������������������������������������������������������������������������������������������ 1
Entropy ofaContinuous Random Variable ������������������������������������������������������������������������������ 5
Partitioning aContinuous Variable forEntropy ������������������������������������������������������������������������ 5
An Example ofImproving Entropy ����������������������������������������������������������������������������������������� 10
Joint andConditional Entropy ����������������������������������������������������������������������������������������������������� 12
Code forConditional Entropy ������������������������������������������������������������������������������������������������� 16
Mutual Information���������������������������������������������������������������������������������������������������������������������� 17
Fano’s Bound andSelection ofPredictor Variables ��������������������������������������������������������������� 19
Confusion Matrices andMutual Information ������������������������������������������������������������������������� 21
Extending Fano’s Bound forUpper Limits ����������������������������������������������������������������������������� 23
Simple Algorithms forMutual Information ���������������������������������������������������������������������������� 27
The TEST_DIS Program ���������������������������������������������������������������������������������������������������������� 34
Continuous Mutual Information ��������������������������������������������������������������������������������������������������� 36
The Parzen Window Method �������������������������������������������������������������������������������������������������� 37
Adaptive Partitioning ������������������������������������������������������������������������������������������������������������� 45
The TEST_CON Program �������������������������������������������������������������������������������������������������������� 60
Asymmetric Information Measures ��������������������������������������������������������������������������������������������� 61
Uncertainty Reduction ����������������������������������������������������������������������������������������������������������� 61
Transfer Entropy: Schreiber’s Information Transfer ��������������������������������������������������������������� 65
iv
Chapter 2: Screening for Relationships ������������������������������������������������������������������ 75
Simple Screening Methods ��������������������������������������������������������������������������������������������������������� 75
Univariate Screening ������������������������������������������������������������������������������������������������������������� 76
Bivariate Screening ��������������������������������������������������������������������������������������������������������������� 76
Forward Stepwise Selection �������������������������������������������������������������������������������������������������� 76
Forward Selection Preserving Subsets���������������������������������������������������������������������������������� 77
Backward Stepwise Selection ����������������������������������������������������������������������������������������������� 77
Criteria foraRelationship ����������������������������������������������������������������������������������������������������������� 77
Ordinary Correlation �������������������������������������������������������������������������������������������������������������� 78
Nonparametric Correlation ���������������������������������������������������������������������������������������������������� 79
Accommodating Simple Nonlinearity ������������������������������������������������������������������������������������ 82
Chi-Square andCramer’s V ��������������������������������������������������������������������������������������������������� 85
Mutual Information andUncertainty Reduction ��������������������������������������������������������������������� 88
Multivariate Extensions ��������������������������������������������������������������������������������������������������������� 88
Permutation Tests ����������������������������������������������������������������������������������������������������������������������� 89
A Modestly Rigorous Statement oftheProcedure ����������������������������������������������������������������� 89
A More Intuitive Approach ����������������������������������������������������������������������������������������������������� 91
Serial Correlation Can BeDeadly ������������������������������������������������������������������������������������������� 93
Permutation Algorithms ��������������������������������������������������������������������������������������������������������� 93
Outline ofthePermutation Test Algorithm ����������������������������������������������������������������������������� 94
Permutation Testing forSelection Bias ���������������������������������������������������������������������������������� 95
Combinatorially Symmetric Cross Validation ������������������������������������������������������������������������������ 97
The CSCV Algorithm ������������������������������������������������������������������������������������������������������������� 102
An Example ofCSCV OOS Testing ���������������������������������������������������������������������������������������� 109
Univariate Screening forRelationships ������������������������������������������������������������������������������������� 110
Three Simple Examples ������������������������������������������������������������������������������������������������������� 114
Bivariate Screening forRelationships ��������������������������������������������������������������������������������������� 116
Stepwise Predictor Selection Using Mutual Information����������������������������������������������������������� 124
Maximizing Relevance While Minimizing Redundancy �������������������������������������������������������� 125
Code fortheRelevance Minus Redundancy Algorithm �������������������������������������������������������� 128
Table of ConTenTs
剩余295页未读,继续阅读
寒沧
- 粉丝: 269
- 资源: 162
上传资源 快速赚钱
- 我的内容管理 收起
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
会员权益专享
最新资源
- stc12c5a60s2 例程
- Android通过全局变量传递数据
- c++校园超市商品信息管理系统课程设计说明书(含源代码) (2).pdf
- 建筑供配电系统相关课件.pptx
- 企业管理规章制度及管理模式.doc
- vb打开摄像头.doc
- 云计算-可信计算中认证协议改进方案.pdf
- [详细完整版]单片机编程4.ppt
- c语言常用算法.pdf
- c++经典程序代码大全.pdf
- 单片机数字时钟资料.doc
- 11项目管理前沿1.0.pptx
- 基于ssm的“魅力”繁峙宣传网站的设计与实现论文.doc
- 智慧交通综合解决方案.pptx
- 建筑防潮设计-PowerPointPresentati.pptx
- SPC统计过程控制程序.pptx
资源上传下载、课程学习等过程中有任何疑问或建议,欢迎提出宝贵意见哦~我们会及时处理!
点击此处反馈
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功
评论0