《机器学习及其应用》示例参考代码.pdf

《机器学习及其应用》教材

应用示例参考代码

第 2 章 模型估计与优化 ................................................................................................................. 1

2.2.1 例题 2.5 房屋价格预测 .................................................................................................. 1

2.2.1 例题 2.6 鸢尾花预测 ..................................................................................................... 2

第 3 章 监督学习 ............................................................................................................................. 4

3.5.1 应用一：信用风险评估 .................................................................................................. 4

3.5.2 应用二：垃圾邮件检测 .................................................................................................. 5

3.5.3 应用三：车牌定位与检测 .............................................................................................. 6

第 4 章 非监督学习 ......................................................................................................................... 9

4.1 聚类分析............................................................................................................................. 9

4.2 主分量分析 ...................................................................................................................... 11

6.2.2 网格游戏....................................................................................................................... 23

6.4.1 应用一:自动爬山小车 .................................................................................................. 24

6.4.2 应用二:五子棋自动对弈 ............................................................................................... 24

第 7 章 神经网络与深度学习 ....................................................................................................... 26

7.2.2 降噪自编码器 ............................................................................................................... 26

7.3.2 应用名称:深度堆栈网络 .............................................................................................. 28

7.4.1.应用一:光学字符识别 ................................................................................................... 29

第 8 章 常用深度网络模型 ........................................................................................................... 31

8.1.2 手写字符识别 ................................................................................................................ 31

8.4.1 应用一:图像目标检测 ................................................................................................... 32

第 2 章 模型估计与优化

2.2.1 例题 2.5 房屋价格预测

一、代码来源：https://github.com/hanbt/learn_dl/blob/master/linear_unit.py

二、实验环境

操作系统：Windows10

IDE：PyChram

开发语言：Python3.7

支持库：matplotlib 3.1.1、future 0.17.1

三、实验步骤

建立线性回归模型来预测房价

（2）实验结果

原始数据是：

[[110], [140], [142.5], [155], [160], [170], [177], [187.5], [235], [245]]

[199, 245, 319, 240, 312, 279, 310, 308, 405, 324]

归一化后数据是：

[[0.0], [0.2222222222222222], [0.24074074074074073], [0.3333333333333333],

[0.37037037037037035], [0.4444444444444444], [0.4962962962962963], [0.5740740740740741],

[0.9259259259259259], [1.0]]

[0.0, 0.22330097087378642, 0.5825242718446602, 0.19902912621359223,

300 : [0.6404623882325393] 0.16904098237484566

400 : [0.6710748607371874] 0.1535286310883017

500 : [0.6861529105255019] 0.14588808506586487

600 : [0.693579543097713] 0.14212476495773796

700 : [0.6972375009992279] 0.140271156826246

800 : [0.6990392134010671] 0.13935816962175235

900 : [0.6999266395733593] 0.13890848145875354

训练结束后的权值和偏移量:

weights :[0.7003607226392643]

bias :0.138689

IDE：PyChram

开发语言：Python3.7

支持库：numpy、sklearn

数据集：UCI_IRIS 鸢尾花数据集

三、实验步骤

使用 numpy 实现批量随机梯度算法

代码参见：chapter2 code\pro2

（1）实验步骤

第一层偏置：

[5.01221804, 0.521868 , 0.93949077, -6.11243257, 6.19494744, 2.61090971, 1.78584362, -5.57059198,

1.79369988,2.16179541]

第二层偏置：

[ 1.9977439 , -1.34534844, -0.6523962 ]

=========================前两层权重项分别是：========================

第一层权重：

[ 3.95109656, -12.86749379, 1.1733736 , -1.81805113, 1.72352881, -5.45811534, -2.83962628, 1.66569897,

1.25378983, 1.35661702],

[ -0.14706066, -9.21265082, -1.58544346, -2.39748441, 0.62958795, 8.0987421 , 4.56744349,

[ 4.71131185, 4.93041655, -9.61515589],

[ 4.37139571, 7.07350875, -11.5037755 ],

[ -5.60230195, 0.07175134, 5.65202637],

[ -3.11830011, -7.18630169, 10.4212728 ],

[ 5.70179078, 4.6425031 , -10.31674614],

[ 7.0941499 , 2.51256407, -9.50609299],

[ 5.64930191, 0.17560544, -5.89070355],

[ -3.81840004, -5.76885829, 9.6649056 ],

[ -6.75389049, 1.07278387, 5.72731348],

[ -7.50424891, 2.43258611, 4.94952597]