凸优化基础：线性与仿射集解析

"这是一份关于凸优化的学习笔记，源自Stephen Boyd的著作，适用于期末考试复习。笔记内容包括了凸集、仿射集、仿射组合、仿射包、凸集、凸组合以及凸包等核心概念的定义、证明和推导。" 在凸优化领域，了解基本的几何特性至关重要，尤其是对于解决实际问题如机器学习、信号处理和经济学等领域。首先，让我们深入探讨"凸集(Convex Set)"这一概念。一个集合C被称为凸集，如果集合内的任意两点x1和x2之间的线段(x1, x2)也完全位于集合C内。这意味着，对于任何0≤λ≤1，λx1 + (1-λ)x2也属于C。这个性质使得凸集在数学分析和优化中具有特别的性质，因为它们能够保持线性组合的“凸性”。 接下来，我们讨论"仿射集(Affine Set)"。仿射集是包含所有两点间直线的集合，它比凸集更为宽松的概念。具体来说，如果集合C中的任何两点x1和x2的连线都在C内，那么C是仿射集。仿射集的一个关键性质是，它们是所有仿射组合的集合。例如，线性方程组的解集就是仿射集，因为任何两个解的线性组合仍然是该方程组的解。 仿射组合(Affine Combination)是指集合中k个点的线性组合，其中权重之和为1。比如，对于k个点x1, x2, ..., xk，如果存在权重α1, α2, ..., αk满足α1+α2+...+αk=1，那么α1x1+α2x2+...+αkxk就是一个仿射组合。仿射包(Affine Hull)则是由集合内所有元素的仿射组合构成的集合，它是包含该集合的最小仿射集。 进一步，我们转向"凸组合(Convex Combination)"，它与仿射组合类似，但权重必须限定在0到1之间。也就是说，对于k个点x1, x2, ..., xk，如果权重α1, α2, ..., αk满足0≤αi≤1且α1+α2+...+αk=1，那么α1x1+α2x2+...+αkxk是这些点的凸组合。凸组合确保了组合的结果仍然在原始点的凸集内部。 最后，凸包(Convex Hull)是通过集合中所有元素的凸组合生成的集合，它是包含该集合的最大凸集。它是集合的“最小”凸集合，即任何包含该集合的凸集都必须至少与凸包相等。 总结来说，这份学习笔记涵盖了凸优化的基础知识，包括各种集合理论的定义和性质，是期末考试复习或进一步研究凸优化的理想资料。通过理解这些概念，我们可以更好地理解和应用凸优化方法来解决实际问题。