没有合适的资源?快使用搜索试试~ 我知道了~
首页在线最优化求解(Online Optimization)-冯扬-2014.12.09.pdf
在线最优化求解(Online Optimization)-冯扬-2014.12.09.pdf
需积分: 21 12 下载量 52 浏览量
更新于2023-03-03
评论
收藏 1.63MB PDF 举报
在线最优化求解(Online Optimization)-冯扬-2014.12.09.pdf
资源详情
资源评论
资源推荐
2020/1/19
LR+FTRL算法原理以及⼯程化实现 - 知乎
https://zhuanlan.zhihu.com/p/55135954 1/19
LR
+
F
T
RL
算
法
原
理
以
及
⼯
程
化
实
现
⼤
数据
/
机
器
学
习
关
注
他
174
⼈
赞
同
了
该
⽂
章
⻘
烟
⾬
后
前
⾔
在
实
际项
⽬
或
者
刷
竞
赛
的
时
候
,
经
常
会
遇
到
训
练
数据
⾮
常
⼤
导
致
⼀
些
算
法
实
际
上不
能
操
作
的
问题
。
⽐
如
在
⼴
告
⾏
业
中
,
因
为
D
S
P
的
请
求
数据
量
特
别
⼤
,⼀个
星期
的
数据
往往
有
上
百
G
,
这
种
级
别
的
数
据
在
训
练
的
时
候
,
直
接
套
⽤
⼀
些
算
法
框架是
没
办
法
训
练
的
,
基
本
上
在
特
征
⼯
程
的
阶
段
就
⼀
筹
莫
展
。
通
常
采
⽤
采
样
、
截
断
的
⽅
式
获
取
更
⼩
的
数据
集
,
或
者
使
⽤
⼤
数据
集
群
的
⽅
式
进
⾏训
练
,
但
是
这
两
种
⽅
式
在
作
者
看
来
⽬
前
存
在
两个
问题
:
•
采
样
数据
或
者
截
断数据
的
⽅
式
,
⾮
常
的
依
赖
前
期
的
数据
分
析
以
及
经
验
。
•
⼤
数据
集
群
的
⽅
式
,
⽬
前
sp
a
r
k
原
⽣
⽀
持
的
机
器
学
习
模
型
⽐
较
少
;
使
⽤
第
三
⽅
的
算
法
模
型
的
话
,
需
要
sp
a
r
k
集
群
的
2
.
3
以
上;
⽽
且
sp
a
r
k
训
练
出
来
的
模
型
往往
⽐
较
复
杂
,
实
际
线
上
运
⾏
的
时
候
,
对
内
存
以
及
QP
S
的
压
⼒
⽐
较
⼤
。
我
⾃
⼰
以
前
在
刷
竞
赛
的
时
候
,
看
到别
⼈使
⽤
过
FM
+
F
T
RL
的
模
型
实
现
了
⼀个
C
T
R
算
法
,
印
象
很
深
。
⾃
⼰
使
⽤
的
是
DNN
+
E
mbedding
的
⽅
式
做
的
⼀个
算
法
模
型
,
从
理
论
上
看
embedding
肯
定
⽐
o
ne
-
h
ot
enc
o
de
r
的
⽅
式
更
加先
进
且
能
真
实
反
馈
特
征
数据
的相
关
性
,
但
是
实
际
效
果
看
对
⽅
的
FM
_
FR
T
L
得
到
的
A
U
C
⽐
我
⾼
近
⼀个
百
分
点
,
⽽
且
可
以
在
10
G
的
数据
上⼀个
多
⼩
时
跑
完
,
⽽
我
的
DNN
+
E
mbedding
算
法
,
因
为
没
有
GP
U
主
机
,
跑
⼀
次
需
要
⼗
⼆
个
⼩
时
,严
重
影
响
了
调
参
的
积
极
性
,
这
也
是
我
⾮
常
想
掌握
F
T
RL
的
出
发
点
。
⾸
发
于
互
联
⽹
杂
谈
赞
同
174 21
条
评论
收
藏
分
享
2020/1/19
LR+FTRL算法原理以及⼯程化实现 - 知乎
https://zhuanlan.zhihu.com/p/55135954 2/19
更
重
要
的
是
,
考
虑
到刷
竞
赛
与
实
际
算
法
是
否可
⼯
程
化
的的
⻆
度
,
F
T
RL
结
合
LR
或
者
FM
是
⼀个
⾮
常
好
的
⽅
向
,
⽐
T
op
1
开
源
的
代
码
使
⽤
了
PCA
、
NLP
处
理
特
征
以
及
多
个
模
型
st
acking
的
技
巧
,
更
具
有
学
习
或
者
借
鉴
的
价
值
。
本
⽂
主
要
根
据
⾕
歌
给
出
的
F
T
RL
理
论论
⽂
,
以
及
F
T
RL
+
LR
的
⼯
程
化
实
现
论
⽂
,
从
理
论
到
⼯
程
化
实
现
LR
+
F
T
RL
的
开
发
,
任
⼀
后
端
开
发
⼈
员
都
能
根
据⽂
末
给
出
的
pyt
h
o
n
代
码
,
简
单
的
开
发
就
能
实
现
⼀个
简
单
、
⾼
性
能
、
⾼
可
靠
的
C
T
R
预
测
模
型
。
LR
关
键
概
念
点
:
1.logistic distribution
2.
⼏
率
3.
对
数
⼏
率
4.
损
失
函
数
5.
参
数
估
计
6.
误
差
计
算
7.
随
机
梯
度
下
降
LR
数
学
原
理
LR
(
l
o
gi
st
ic
r
eg
r
e
ss
i
o
n
m
o
del
)
是
⼀
种
分
类
模
型
,
我
们
通
常
都
知
道
:
但
是
对
其
实
际
的
数
学
原
理
却
不
是
很
了
解
。
l
o
gi
st
ic
s
r
eg
r
e
ss
i
o
n
中
的
l
o
gi
st
ic
指
的
是
统
计
学
中
的
l
o
gi
st
ic
di
str
ib
ut
i
o
n
:
标
准
l
o
gi
st
ic
分
布密
度
函
数
与
分
布
函
数
可
以
说
LR
是
线
性
回
归
模
型
通过
l
o
gi
st
ic
的
分
布
函
数
,
将
预
测
结
果映
射
到
概
率
空
间
,
进
⽽
预
测
不
同
分
类
的
概
率
,
其
概
率由
条
件
概
率
P
(
Y
|
X
)
表
示
。
⾸
发
于
互
联
⽹
杂
谈
赞
同
174 21
条
评论
收
藏
分
享
2020/1/19
LR+FTRL算法原理以及⼯程化实现 - 知乎
https://zhuanlan.zhihu.com/p/55135954 3/19
LR
模
型
既
可
以
做
⼆
分
类
也
可
以
做
多
分
类
,
因
为从事
的
是
⼴
告
、
营
销
⾏
业
的
模
型
预
估
,
本
⽂
只
针
对
⼆
分
类
的
LR
模
型
(
bina
ry
l
o
gi
st
ic
r
eg
r
e
ss
i
o
n
m
o
del
)
做
原
理
讲解
以
及
模
型
⼯
程
化
实
现
。
⼆
分
类
的
LR
模
型
是
如
下
条
件
概
率
的
分
布
:
⼏
率
:
如
果
⼀个
事件
发
⽣
的
概
率
是
p
,
那
么
该
事件
发
⽣
的
⼏
率
是
发
⽣
的
概
率
/
不
发
⽣
的
概
率
:
对
数
⼏
率
:
对
⼏
率
取
对
数
。
代
⼊公
式
(2)
和
公
式
(3)
得
到
:
可
以
看
出
LR
也
可
以
认
为
是
⽤
线
性
回
归
模
型
的
预
测
结
果来
预
测
事件
发
⽣
的
对
数
⼏
率
。
LR
有
很
多
优
点
,
⽐
如
:
•
作为
统
计
模
型
与
机
器
学
习
的
结
合
点
,
具
有
较
好
的
预
测
结
果
以
及可
解
释
性
。
•
直
接
对
分
类
的
可
能
性建
模
,
⽆
需
事
先假
设
数据
的
分
布
,
这
就
避
免
了
假
设
分
布
不
准
确
带
来
的
影
响
。
•
不
仅
预
测
得
到分
类
,
还
有
分
类
对
应
的
概
率
,
这
对
很
多
需
要
使
⽤
概
率
辅
助决
策
的
任
务
很
有
⽤
。
•
s
igm
o
d
函
数
是
⾼
阶
可
导
的
凸函
数
,
具
有
很
好
的
数
学
性
质
,
很
多
数
值
优
化
的
算
法
都
可
以
直
接
⽤
于
求
解
最
优
解
。
参
数
估
计
损
失
函
数
逻辑
回
归
模
型
学
习
时
,
对
于
给
定
的
训
练
集
,
可
以使
⽤
极
⼤
似
然
估
计
法
估
计
模
型
参
数
(
将
权
重
向
量
w
和
输
⼊
向
量
x
扩
充
⼀
位
),
设
:
⾸
发
于
互
联
⽹
杂
谈
赞
同
174 21
条
评论
收
藏
分
享
剩余14页未读,继续阅读
桂子--
- 粉丝: 2
- 资源: 30
上传资源 快速赚钱
- 我的内容管理 收起
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
会员权益专享
最新资源
- stc12c5a60s2 例程
- Android通过全局变量传递数据
- c++校园超市商品信息管理系统课程设计说明书(含源代码) (2).pdf
- 建筑供配电系统相关课件.pptx
- 企业管理规章制度及管理模式.doc
- vb打开摄像头.doc
- 云计算-可信计算中认证协议改进方案.pdf
- [详细完整版]单片机编程4.ppt
- c语言常用算法.pdf
- c++经典程序代码大全.pdf
- 单片机数字时钟资料.doc
- 11项目管理前沿1.0.pptx
- 基于ssm的“魅力”繁峙宣传网站的设计与实现论文.doc
- 智慧交通综合解决方案.pptx
- 建筑防潮设计-PowerPointPresentati.pptx
- SPC统计过程控制程序.pptx
资源上传下载、课程学习等过程中有任何疑问或建议,欢迎提出宝贵意见哦~我们会及时处理!
点击此处反馈
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功
评论0