对于x是标量，向量或者矩阵，G(x)是矩阵输出函数，σ(G(x))是矩阵G(x)的奇异值向量来说，在h(x)是x处的凹函数，G(x)是一个对称矩阵的条件下，复合函数h(σ(G(x)))是G(x)处的凸函数还是凹函数，为什么？

复合函数h(σ(G(x)))在G(x)处是凸函数。

首先，根据矩阵奇异值分解的定义，矩阵G(x)是一个对称矩阵，因此它的奇异值向量σ(G(x))是一个实数非负向量。同时，由于G(x)是对称矩阵，它可以被对角化，即存在一个正交矩阵P，使得G(x) = PΛP^T，其中Λ是对角矩阵，对角线上的元素就是矩阵G(x)的奇异值。

现在考虑复合函数h(σ(G(x)))在G(x)处的凸性质。根据复合函数的链式法则，它的一阶导数为：

h'(σ(G(x))) * G'(x)

其中G'(x)是矩阵G(x)关于x的导数。由于G(x)是对称矩阵，因此它的导数也是对称矩阵，即G'(x) = (G'(x))^T。又因为h(x)是凹函数，所以h'(σ(G(x)))是单调递减的，即h''(σ(G(x))) ≤ 0。

现在考虑复合函数h(σ(G(x)))在G(x)处的二阶导数，即：

h''(σ(G(x))) * G'(x) * (G'(x))^T + h'(σ(G(x))) * G''(x)

由于G(x)是对称矩阵，因此G''(x)也是对称矩阵。而由于G(x)是实对称矩阵，因此它可以被对角化为G(x) = PΛP^T，其中Λ是对角矩阵，对角线上的元素就是矩阵G(x)的特征值。因此，G''(x)也可以被对角化为G''(x) = PΛ''P^T，其中Λ''是对角矩阵，对角线上的元素就是矩阵G(x)的特征值的导数。

现在我们有：

h''(σ(G(x))) * G'(x) * (G'(x))^T + h'(σ(G(x))) * G''(x)

= h''(σ(G(x))) * PΛP^T * (PΛP^T)^T + h'(σ(G(x))) * PΛ''P^T

= h''(σ(G(x))) * PΛPP^TΛ^TP^T + h'(σ(G(x))) * PΛ''P^T

= P(h''(σ(G(x))) * Λ + h'(σ(G(x))) * Λ'' )P^T

由于h''(σ(G(x))) ≤ 0，因此上式右侧是一个半正定矩阵。由于P是正交矩阵，因此左侧也是一个半正定矩阵。因此，复合函数h(σ(G(x)))在G(x)处是凸函数。

综上所述，复合函数h(σ(G(x)))在G(x)处是凸函数。