UCB算法Hoeffding

UCB算法（Upper Confidence＊＊＊中进行决策。它的核心思想是在探索和利用之间进行平衡，通过估计每个动作的不确定性来选择最优的动作。

Hoeffding不等式是UCB算法中用于估计不确定性的一种方法。它基于概率论中的Hoeffding引理，通过对样本均值的上界进行估计，来推断真实均值的位置。

UCB算法的步骤如下：
1. 初始化每个动作的计数器和累积奖励。
2. 对于每个时间步，选择一个动作来执行。选择规则是根据每个动作的上界估计值来决定，上界估计值越大，被选择的率越高。
3. 执行选择的动作，并观察获的奖励。
4. 更新选择的动作的计数器累积奖励。
5. 重复步骤2-4，直到达到预定的时间步数或其他终止条件。

Hoeffding不等式在UCB算法中用于计算每个动作的上界估计值。它通过考虑样本数量和置信水平来确定上界，从而在不确定性环境中进行决策。