没有合适的资源?快使用搜索试试~ 我知道了~
首页Deep Belief Nets in C++ and CUDA C Volume 1 Restricted Boltzmann 无水印原版pdf
Deep Belief Nets in C++ and CUDA C Volume 1 Restricted Boltzmann Machines and Supervised Feedforward Networks 英文无水印原版pdf pdf所有页面使用FoxitReader、PDF-XChangeViewer、SumatraPDF和Firefox测试都可以打开 本资源转载自网络,如有侵权,请联系上传者或csdn删除 查看此书详细信息请在美国亚马逊官网搜索此书
资源详情
资源评论
资源推荐

Deep Belief
Nets in C++
and CUDA C:
Volume 1
Restricted Boltzmann Machines and
Supervised Feedforward Networks
—
Timothy Masters

Deep Belief Nets in C++
and CUDA C: Volume 1
Restricted Boltzmann Machines and
Supervised Feedforward Networks
TimothyMasters

Deep Belief Nets in C++ and CUDA C: Volume 1: Restricted Boltzmann Machines and
Supervised Feedforward Networks
ISBN-13 (pbk): 978-1-4842-3590-4 ISBN-13 (electronic): 978-1-4842-3591-1
https://doi.org/10.1007/978-1-4842-3591-1
Library of Congress Control Number: 2018940161
Copyright © 2018 by Timothy Masters
is work is subject to copyright. All rights are reserved by the Publisher, whether the whole or part of the
material is concerned, specically the rights of translation, reprinting, reuse of illustrations, recitation,
broadcasting, reproduction on microlms or in any other physical way, and transmission or information
storage and retrieval, electronic adaptation, computer software, or by similar or dissimilar methodology now
known or hereafter developed.
Trademarked names, logos, and images may appear in this book. Rather than use a trademark symbol
with every occurrence of a trademarked name, logo, or image we use the names, logos, and images only in
an editorial fashion and to the benet of the trademark owner, with no intention of infringement of the
trademark.
e use in this publication of trade names, trademarks, service marks, and similar terms, even if they are not
identied as such, is not to be taken as an expression of opinion as to whether or not they are subject to
proprietary rights.
While the advice and information in this book are believed to be true and accurate at the date of publication,
neither the authors nor the editors nor the publisher can accept any legal responsibility for any errors or
omissions that may be made. e publisher makes no warranty, express or implied, with respect to the
material contained herein.
Managing Director, Apress Media LLC: Welmoed Spahr
Acquisitions Editor: Steve Anglin
Development Editor: Matthew Moodie
Coordinating Editor: Mark Powers
Cover designed by eStudioCalamar
Cover image designed by Freepik (www.freepik.com)
Distributed to the book trade worldwide by Springer Science+Business Media NewYork, 233 Spring Street,
6th Floor, NewYork, NY 10013. Phone 1-800-SPRINGER, fax (201) 348-4505, e-mail orders-ny@springer-
sbm.com, or visit www.springeronline.com. Apress Media, LLC is a California LLC and the sole member
(owner) is Springer Science + Business Media Finance Inc (SSBM Finance Inc). SSBM Finance Inc is a
Delaware corporation.
For information on translations, please e-mail editorial@apress.com; for reprint, paperback, or audio rights,
please email bookpermissions@springernature.com.
Apress titles may be purchased in bulk for academic, corporate, or promotional use. eBook versions and
licenses are also available for most titles. For more information, reference our Print and eBook Bulk Sales
web page at www.apress.com/bulk-sales.
Any source code or other supplementary material referenced by the author in this book is available to
readers on GitHub via the book’s product page, located at www.apress.com/9781484235904. For more
detailed information, please visit www.apress.com/source-code.
Printed on acid-free paper
TimothyMasters
Ithaca, New York, USA

iii
About the Author ���������������������������������������������������������������������������������������������������� vii
About the Technical Reviewer ��������������������������������������������������������������������������������� ix
Table of Contents
Chapter 1: Introduction��������������������������������������������������������������������������������������������� 1
Review of Multiple-Layer Feedforward Networks ������������������������������������������������������������������������� 2
What Are Deep Belief Nets, and Why Do We Like Them? �������������������������������������������������������������� 5
Chapter 2: Supervised Feedforward Networks ��������������������������������������������������������� 9
Backpropagation of Errors ������������������������������������������������������������������������������������������������������������ 9
SoftMax Outputs for Classification ���������������������������������������������������������������������������������������� 13
Code for Gradient Calculation ����������������������������������������������������������������������������������������������������� 18
Weight Penalties ������������������������������������������������������������������������������������������������������������������������� 27
Multithreading Gradient Computation ����������������������������������������������������������������������������������������� 29
Gradient Computation with CUDA ����������������������������������������������������������������������������������������������� 36
Basic Architecture ����������������������������������������������������������������������������������������������������������������� 37
A Simple Example ������������������������������������������������������������������������������������������������������������������ 39
Initialization ��������������������������������������������������������������������������������������������������������������������������� 43
Hidden Neuron Activation ������������������������������������������������������������������������������������������������������ 47
Output Neuron Activation ������������������������������������������������������������������������������������������������������� 52
SoftMax Output ���������������������������������������������������������������������������������������������������������������������� 53
Output Delta ��������������������������������������������������������������������������������������������������������������������������� 54
Output Gradient ��������������������������������������������������������������������������������������������������������������������� 55
Gradient of the First Hidden Layer ����������������������������������������������������������������������������������������� 57
Gradient of Subsequent Hidden Layers ��������������������������������������������������������������������������������� 60
Fetching the Gradient ������������������������������������������������������������������������������������������������������������ 63
Mean Squared Error by Reduction ����������������������������������������������������������������������������������������� 65

iv
Log Likelihood by Reduction �������������������������������������������������������������������������������������������������� 70
Putting It All Together ������������������������������������������������������������������������������������������������������������ 71
Basic Training Algorithms ������������������������������������������������������������������������������������������������������������ 77
Simulated Annealing for Starting Weights ����������������������������������������������������������������������������� 78
Singular Value Decomposition for Optimal Output Weights ��������������������������������������������������� 80
Stochastic Gradient Descent ������������������������������������������������������������������������������������������������� 82
Conjugate Gradient Optimization ������������������������������������������������������������������������������������������� 84
Chapter 3: Restricted Boltzmann Machines ����������������������������������������������������������� 91
What Is a Restricted Boltzmann Machine? ��������������������������������������������������������������������������������� 91
Reconstruction Error�������������������������������������������������������������������������������������������������������������� 93
Maximum Likelihood Training, Sort Of ���������������������������������������������������������������������������������������� 94
Contrastive Divergence ��������������������������������������������������������������������������������������������������������� 97
Weight Penalties ������������������������������������������������������������������������������������������������������������������ 100
Encouraging Sparsity ���������������������������������������������������������������������������������������������������������� 101
Finding Initial Weights ��������������������������������������������������������������������������������������������������������������� 103
Hidden Neuron Bias ������������������������������������������������������������������������������������������������������������� 105
Visible Neuron Bias�������������������������������������������������������������������������������������������������������������� 106
Code for Reconstruction Error ��������������������������������������������������������������������������������������������� 107
Multithreading Initial Weight Selection �������������������������������������������������������������������������������� 109
Stochastic Gradient Descent Basic Principles �������������������������������������������������������������������������� 116
The Core Algorithm �������������������������������������������������������������������������������������������������������������� 116
Dividing Epochs into Batches ���������������������������������������������������������������������������������������������� 117
Shuffling Epochs ������������������������������������������������������������������������������������������������������������������ 118
Updating the Learning Rate and Momentum ����������������������������������������������������������������������� 118
Determining Convergence ��������������������������������������������������������������������������������������������������� 120
Code for Multithreaded RBM Training ��������������������������������������������������������������������������������������� 121
CUDA Code for RBM Training ����������������������������������������������������������������������������������������������������� 141
Initialization and Cache Line Matching �������������������������������������������������������������������������������� 142
Fetching Training Cases ������������������������������������������������������������������������������������������������������� 143
Table of ConTenTs
剩余224页未读,继续阅读
















安全验证
文档复制为VIP权益,开通VIP直接复制

评论0