证明实变量函数|x|^p(p>=1)的凸性
证明实变量函数∣x∣p(p≥1)|x|^p(p\geq 1)∣x∣p(p≥1)的凸性证明首先记f(x)=∣x∣p,p≥1f(x)=|x|^p,p\geq 1f(x)=∣x∣p,p≥1我们通过求二阶导数,易证它得在(−∞,0](-\infin,0](−∞,0]和[0,+∞)[0,+\infin)[0,+∞)上的凸性。因此f(x)在这两个区间上都满足一阶条件,即f(θx+(1−θ)y)≤θf(x)+(
证明实变量函数 ∣ x ∣ p ( p ≥ 1 ) |x|^p(p\geq 1) ∣x∣p(p≥1)的凸性
证明
首先记 f ( x ) = ∣ x ∣ p , p ≥ 1 f(x)=|x|^p,p\geq 1 f(x)=∣x∣p,p≥1
我们通过求二阶导数,易证它得在
(
−
∞
,
0
]
(-\infin,0]
(−∞,0]和
[
0
,
+
∞
)
[0,+\infin)
[0,+∞)上的凸性。
因此f(x)在这两个区间上都满足一阶条件,即
f
(
θ
x
+
(
1
−
θ
)
y
)
≤
θ
f
(
x
)
+
(
1
−
θ
)
f
(
y
)
,
∀
x
,
y
∈
(
−
∞
,
0
]
(1)
f(\theta x+(1-\theta)y)\leq\theta{f(x)}+(1-\theta)f(y), \forall{x,y}\in(-\infin,0]\tag{1}
f(θx+(1−θ)y)≤θf(x)+(1−θ)f(y),∀x,y∈(−∞,0](1)
f
(
θ
x
+
(
1
−
θ
)
y
)
≤
θ
f
(
x
)
+
(
1
−
θ
)
f
(
y
)
,
∀
x
,
y
∈
[
0
,
+
∞
)
(2)
f(\theta x+(1-\theta)y)\leq\theta{f(x)}+(1-\theta)f(y), \forall{x,y}\in[0,+\infin)\tag{2}
f(θx+(1−θ)y)≤θf(x)+(1−θ)f(y),∀x,y∈[0,+∞)(2)
并且,我们知道,
f
(
x
)
f(x)
f(x)在
(
−
∞
,
0
]
(-\infin,0]
(−∞,0]上单调减,在
[
0
,
+
∞
)
[0,+\infin)
[0,+∞)上单调增。
要证明 f ( x ) f(x) f(x)的凸性,就要在全区间 R \R R上满足一阶或者二阶条件。然而在 x = 0 x=0 x=0处 f ( x ) f(x) f(x)对某些 p p p未必可微(或二阶可微),通过二阶条件证明显得非常麻烦。
考虑通过一阶条件证明,即
f
(
θ
x
+
(
1
−
θ
)
y
)
≤
θ
f
(
x
)
+
(
1
−
θ
)
f
(
y
)
,
∀
x
,
y
∈
R
(3)
f(\theta x+(1-\theta)y)\leq\theta{f(x)}+(1-\theta)f(y), \forall{x,y}\in\R \tag{3}
f(θx+(1−θ)y)≤θf(x)+(1−θ)f(y),∀x,y∈R(3)
上面已经讨论,对于
(
−
∞
,
0
]
(-\infin,0]
(−∞,0]和
[
0
,
+
∞
)
[0,+\infin)
[0,+∞)两个区间上的任意
x
,
y
x,y
x,y一阶条件均分别成立(式(1)(2)),因此不失一般性,仅需要证明
x
≤
0
≤
y
x\leq 0\leq y
x≤0≤y情况下一阶条件成立,则整个实数域上一阶条件都成立。
下面试证明
f
(
θ
x
+
(
1
−
θ
)
y
)
≤
θ
f
(
x
)
+
(
1
−
θ
)
f
(
y
)
,
∀
x
≤
0
≤
y
(4)
f(\theta x+(1-\theta)y)\leq\theta{f(x)}+(1-\theta)f(y), \forall{x\leq 0\leq y}\tag{4}
f(θx+(1−θ)y)≤θf(x)+(1−θ)f(y),∀x≤0≤y(4)
若
θ
x
+
(
1
−
θ
)
y
≥
0
\theta{x}+(1-\theta)y\geq 0
θx+(1−θ)y≥0,那么根据
f
(
x
)
f(x)
f(x)的增减性和非负性(因为是绝对值函数):
∵
θ
x
+
(
1
−
θ
)
y
≤
(
1
−
θ
)
y
(
x
≤
0
)
∴
f
(
θ
x
+
(
1
−
θ
)
y
)
≤
f
(
(
1
−
θ
)
y
)
≤
非
负
性
f
(
θ
x
)
+
f
(
(
1
−
θ
)
y
)
∵
f
(
k
x
+
(
1
−
k
)
∗
0
)
≤
k
f
(
x
)
+
(
1
−
k
)
f
(
0
)
=
k
f
(
x
)
,
∀
x
∈
R
;
∀
k
,
0
≤
k
≤
1
∴
f
(
θ
x
)
+
f
(
(
1
−
θ
)
y
)
≤
θ
f
(
x
)
+
(
1
−
θ
)
f
(
y
)
∴
f
(
θ
x
+
(
1
−
θ
)
y
)
≤
f
(
θ
x
)
+
f
(
(
1
−
θ
)
y
)
≤
θ
f
(
x
)
+
(
1
−
θ
)
f
(
y
)
\begin{aligned} &\because{\theta{x}+(1-\theta)y \leq (1-\theta)y}(x\leq 0)\\ &\therefore{f(\theta{x}+(1-\theta)y) \leq f((1-\theta)y)\underset{非负性}\leq f(\theta{x})+f((1-\theta)y)}\\ &\because{f(kx+(1-k)*0)\leq kf(x)+(1-k)f(0)=k f(x), \forall x\in \R; \forall k,0\leq k\leq 1}\\ &\therefore{f(\theta{x})+f((1-\theta)y)\leq \theta{f(x)}+(1-\theta)f(y)}\\ &\therefore{f(\theta x+(1-\theta)y)\leq f(\theta{x})+f((1-\theta)y)\leq \theta{f(x)}+(1-\theta)f(y)}\\ \end{aligned}
∵θx+(1−θ)y≤(1−θ)y(x≤0)∴f(θx+(1−θ)y)≤f((1−θ)y)非负性≤f(θx)+f((1−θ)y)∵f(kx+(1−k)∗0)≤kf(x)+(1−k)f(0)=kf(x),∀x∈R;∀k,0≤k≤1∴f(θx)+f((1−θ)y)≤θf(x)+(1−θ)f(y)∴f(θx+(1−θ)y)≤f(θx)+f((1−θ)y)≤θf(x)+(1−θ)f(y)
同理,若
θ
x
+
(
1
−
θ
)
y
≤
0
\theta{x}+(1-\theta)y\leq 0
θx+(1−θ)y≤0,那么根据
f
(
x
)
f(x)
f(x)的增减性和非负性(因为是绝对值函数):
∵
θ
x
+
(
1
−
θ
)
y
≥
θ
x
(
y
≥
0
)
∴
f
(
θ
x
+
(
1
−
θ
)
y
)
≤
f
(
θ
x
)
≤
非
负
性
f
(
θ
x
)
+
f
(
(
1
−
θ
)
y
)
∵
f
(
k
x
+
(
1
−
k
)
∗
0
)
≤
k
f
(
x
)
+
(
1
−
k
)
f
(
0
)
=
k
f
(
x
)
,
∀
x
∈
R
;
∀
k
,
0
≤
k
≤
1
∴
f
(
θ
x
)
+
f
(
(
1
−
θ
)
y
)
≤
θ
f
(
x
)
+
(
1
−
θ
)
f
(
y
)
∴
f
(
θ
x
+
(
1
−
θ
)
y
)
≤
f
(
θ
x
)
+
f
(
(
1
−
θ
)
y
)
≤
θ
f
(
x
)
+
(
1
−
θ
)
f
(
y
)
\begin{aligned} &\because{\theta{x}+(1-\theta)y\geq \theta{x}}(y\geq 0)\\ &\therefore{f(\theta{x}+(1-\theta)y)\leq f(\theta{x})\underset{非负性}\leq f(\theta{x})+f((1-\theta)y)}\\ &\because{f(kx+(1-k)*0)\leq kf(x)+(1-k)f(0)=k f(x), \forall x\in \R; \forall k,0\leq k\leq 1}\\ &\therefore{f(\theta{x})+f((1-\theta)y)\leq \theta{f(x)}+(1-\theta)f(y)}\\ &\therefore{f(\theta x+(1-\theta)y)\leq f(\theta{x})+f((1-\theta)y)\leq \theta{f(x)}+(1-\theta)f(y)}\\ \end{aligned}
∵θx+(1−θ)y≥θx(y≥0)∴f(θx+(1−θ)y)≤f(θx)非负性≤f(θx)+f((1−θ)y)∵f(kx+(1−k)∗0)≤kf(x)+(1−k)f(0)=kf(x),∀x∈R;∀k,0≤k≤1∴f(θx)+f((1−θ)y)≤θf(x)+(1−θ)f(y)∴f(θx+(1−θ)y)≤f(θx)+f((1−θ)y)≤θf(x)+(1−θ)f(y)
因此,
f
(
x
)
f(x)
f(x)在实数域上满足一阶条件,它是一个凸函数。
图示
下图显示了
θ
x
+
(
1
−
θ
)
y
≥
0
\theta{x}+(1-\theta)y\geq 0
θx+(1−θ)y≥0的情况,希望有助于理解。
开放原子开发者工作坊旨在鼓励更多人参与开源活动,与志同道合的开发者们相互交流开发经验、分享开发心得、获取前沿技术趋势。工作坊有多种形式的开发者活动,如meetup、训练营等,主打技术交流,干货满满,真诚地邀请各位开发者共同参与!
更多推荐
所有评论(0)