定义点覆盖问题为，给定一张含点权 w : V → R w: V\to \mathbb{R} w : V → R G = ( V , E ) G=(V,E) G = ( V , E ) C ( ∀ e ∈ E , e ∩ C ≠ ∅ ) C (\forall e\in E, e\cap C\neq \emptyset) C ( ∀ e ∈ E , e ∩ C = ∅ ) w ( C ) = ∑ v ∈ C w ( v ) w(C)=\sum_{v\in C} w(v) w ( C ) = ∑ v ∈ C w ( v )
写出这个问题的线性规划为：
Minimize ∑ v ∈ C x v w ( v ) Subject to x u + x v ≥ 1 ∀ { u , v } ∈ E 0 ≤ x v ≤ 1 ∀ v ∈ V \begin{align*} \text{Minimize}\quad & \sum_{v\in C} x_v\,w(v)\\ \text{Subject to}\quad & x_u + x_v \ge 1 && \forall\,\{u,v\}\in E\\ & 0 \le x_v \le 1 && \forall\,v\in V \end{align*} Minimize Subject to v ∈ C ∑ x v w ( v ) x u + x v ≥ 1 0 ≤ x v ≤ 1 ∀ { u , v } ∈ E ∀ v ∈ V
断言： 对于二分图，这个点覆盖 LP 的任意极点都是整数。
证明： //TODO，考虑假设有非整数的极点，然后推反，不一定对，回头学了再补。
考虑下面的线性规划：
Maximize 7 x 1 + 3 x 2 Subject to x 1 + x 2 ≥ 2 , / ⋅ y 1 3 x 1 + x 2 ≥ 4 , / ⋅ y 2 x 1 , x 2 ≥ 0 \begin{align*} \text{Maximize}\quad & 7x_1+3x_2\\ \text{Subject to}\quad & x_1 + x_2 \geq 2, && /\cdot y_1\\ & 3x_1 + x_2 \geq 4, && /\cdot y_2 \\ & x1,x2\geq 0 \end{align*} Maximize Subject to 7 x 1 + 3 x 2 x 1 + x 2 ≥ 2 , 3 x 1 + x 2 ≥ 4 , x 1 , x 2 ≥ 0 / ⋅ y 1 / ⋅ y 2
得到了
Minimize 2 y 1 + 4 y 2 (lower bound as tight as possible) Subject to y 1 + 3 y 2 ≤ 7 , ( coefficient of x 1 ) y 1 + y 2 ≤ 3 , ( coefficient of x 2 ) y 1 , y 2 ≥ 0 \begin{align*} \text{Minimize}\quad & 2y_1 + 4y_2 && \text{(lower bound as tight as possible)}\\ \text{Subject to}\quad & y_1 + 3y_2 \leq 7, && (\text{coefficient of } x_1)\\ & y_1 + y_2 \leq 3, && (\text{coefficient of } x_2) \\ & y1,y2\geq 0 \end{align*} Minimize Subject to 2 y 1 + 4 y 2 y 1 + 3 y 2 ≤ 7 , y 1 + y 2 ≤ 3 , y 1 , y 2 ≥ 0 (lower bound as tight as possible) ( coefficient of x 1 ) ( coefficient of x 2 )
考虑以下具有 n n n x i ( i ∈ [ 1 , n ] ) x_i(i\in[1,n]) x i ( i ∈ [ 1 , n ]) m m m
Minimize ∑ i = 1 n c i x i Subject to ∑ i = 1 n A j i x i ≥ b j ∀ j = 1 , … , m , x ≥ 0. \begin{align*} \text{Minimize}\quad & \sum_{i=1}^{n} c_ix_i\\ \text{Subject to}\quad & \sum_{i=1}^{n} A_{ji} x_i \geq b_j \quad \forall j = 1,\dots,m,\\ & x\geq 0. \end{align*} Minimize Subject to i = 1 ∑ n c i x i i = 1 ∑ n A ji x i ≥ b j ∀ j = 1 , … , m , x ≥ 0.
那么它的对偶为以下具有 m m m y i ( i ∈ [ 1 , m ] ) y_i(i\in[1,m]) y i ( i ∈ [ 1 , m ]) n n n
max ∑ j = 1 m b j x j s.t. ∑ j = 1 m A j i y j ≤ c i ∀ i = 1 , … , n , y ≥ 0. \begin{align*} \text{max}\quad & \sum_{j=1}^{m} b_jx_j\\ \text{s.t.}\quad & \sum_{j=1}^{m} A_{ji} y_j \leq c_i \quad \forall i = 1,\dots,n,\\ & y\geq 0. \end{align*} max s.t. j = 1 ∑ m b j x j j = 1 ∑ m A ji y j ≤ c i ∀ i = 1 , … , n , y ≥ 0.
注
上面展示了如何为最小化问题生成对偶，类似的方法也适用于最大化问题。所有 max 问题都可以转化为 min 问题。我们在约束函数里面将 x 替换成 -x 从而得到了 min 问题。 对偶问题的对偶会回到这个LP本身。 在例子中，原问题和对偶问题的最优解是一致的。我们现在提出两个定理以连接原始解和最优解。
定理-弱对偶性 weak duality : 如果 x x x x x x y y y
∑ i = 1 n c i x i ≥ ∑ j = 1 m b j y j \sum_{i=1}^{n}c_ix_i \geq \sum_{j=1}^{m}b_jy_j i = 1 ∑ n c i x i ≥ j = 1 ∑ m b j y j
证明（讲义） ：
∑ j = 1 m b j y j ≤ ∑ j = 1 m ∑ i = 1 n A j i x i y j = ∑ i = 1 n ( ∑ j = 1 m A j i y j ) x i ≤ ∑ i = 1 n c i x i \sum_{j=1}^{m}b_jy_j \leq \sum_{j=1}^{m}\sum_{i=1}^{n}A_{ji}x_iy_j = \sum_{i=1}^{n}\Big(\sum_{j=1}^mA_{ji}y_j\Big)x_i \leq \sum_{i=1}^{n} c_ix_i j = 1 ∑ m b j y j ≤ j = 1 ∑ m i = 1 ∑ n A ji x i y j = i = 1 ∑ n ( j = 1 ∑ m A ji y j ) x i ≤ i = 1 ∑ n c i x i
这个定理告诉我们，每个对偶可行解都是任何原始解的下界。原始 LP 和对偶 LP 的最优解是重合的，从而得到以下定理。
笔者补充证明
在这个定理中，强调了 max 问题的可行解总是不超过 min 问题的可行解。所以在这里我们定义原始 LP 为
min ∑ i = 1 n c i x i s.t. ∑ i = 1 n A j i x i ≥ b j ∀ j = 1 , … , m , x ≥ 0. \begin{align*} \text{min}\quad & \sum_{i=1}^{n} c_ix_i\\ \text{s.t.}\quad & \sum_{i=1}^{n} A_{ji} x_i \geq b_j \quad \forall j = 1,\dots,m,\\ & x\geq 0. \end{align*} min s.t. i = 1 ∑ n c i x i i = 1 ∑ n A ji x i ≥ b j ∀ j = 1 , … , m , x ≥ 0.
由该定义，得到对偶 LP 为
max ∑ j = 1 m b j y j s.t. ∑ j = 1 m A j i y j ≤ c i ∀ i = 1 , … , n , y ≥ 0. \begin{align*} \text{max}\quad & \sum_{j=1}^{m} b_jy_j\\ \text{s.t.}\quad & \sum_{j=1}^{m} A_{ji} y_j \leq c_i \quad \forall i = 1,\dots,n,\\ & y\geq 0. \end{align*} max s.t. j = 1 ∑ m b j y j j = 1 ∑ m A ji y j ≤ c i ∀ i = 1 , … , n , y ≥ 0.
那么 ，我们可以由式子的右侧开始
因为 ∑ i = 1 n A j i x i ≥ b j (来自于原始LP的限制) 所以 ∑ j = 1 m b j y j ≤ ∑ j = 1 m ∑ i = 1 n A j i x i y j (带入) \begin{align*} \text{因为} &\sum_{i=1}^{n} A_{ji} x_i \geq b_j \qquad\text{(来自于原始LP的限制)}\\ \text{所以} &\sum_{j=1}^{m} b_j y_j \leq \sum_{j=1}^{m} \sum_{i=1}^{n} A_{ji} x_i y_j \quad\text{(带入)} \end{align*} 因为 所以 i = 1 ∑ n A ji x i ≥ b j ( 来自于原始 LP 的限制 ) j = 1 ∑ m b j y j ≤ j = 1 ∑ m i = 1 ∑ n A ji x i y j ( 带入 )
然后再交换 求和的顺序得到
∑ j = 1 m ∑ i = 1 n A j i x i y j = ∑ i = 1 n ( ∑ j = 1 m A j i y j ) x i \sum_{j=1}^{m}\sum_{i=1}^{n}A_{ji}x_iy_j = \sum_{i=1}^{n}\Big(\sum_{j=1}^mA_{ji}y_j\Big)x_i j = 1 ∑ m i = 1 ∑ n A ji x i y j = i = 1 ∑ n ( j = 1 ∑ m A ji y j ) x i
再由对偶 LP 的限制就可以推出
∑ i = 1 n ( ∑ j = 1 m A j i y j ) x i ≤ ∑ i = 1 n c i x i \sum_{i=1}^{n}\Big(\sum_{j=1}^mA_{ji}y_j\Big)x_i \leq \sum_{i=1}^{n} c_ix_i i = 1 ∑ n ( j = 1 ∑ m A ji y j ) x i ≤ i = 1 ∑ n c i x i
证毕。也就是用两个LP的限制互相带入得到了这么一个不等式。
定理-强对偶性 strong duality : 如果 x x x y y y
∑ i = 1 n c i x i = ∑ j = 1 m b j y j \sum_{i=1}^{n}c_ix_i = \sum_{j=1}^{m}b_jy_j i = 1 ∑ n c i x i = j = 1 ∑ m b j y j
证明略。
此外，如果原始问题无界，那么对偶问题是不可行的。同样的，如果对偶问题无界，那么原始问题不可行。
设 G = ( A ∪ B , E ) G=(A\cup B, E) G = ( A ∪ B , E ) M M M x e x_e x e e ∈ E e\in E e ∈ E M M M M M M
Maximize ∑ e ∈ E x e Subject to ∑ e = ( a , b ) ∈ E x e ≤ 1 ∀ a ∈ A , ∑ e = ( a , b ) ∈ E x e ≤ 1 ∀ b ∈ B , x e ≥ 0. \begin{align*} \text{Maximize}\quad & \sum_{e\in E} x_e\\ \text{Subject to}\quad & \sum_{e=(a,b)\in E} x_e\leq 1 & \forall a\in A,\\ & \sum_{e=(a,b)\in E} x_e\leq 1 & \forall b\in B,\\ & x_e\geq 0. \end{align*} Maximize Subject to e ∈ E ∑ x e e = ( a , b ) ∈ E ∑ x e ≤ 1 e = ( a , b ) ∈ E ∑ x e ≤ 1 x e ≥ 0. ∀ a ∈ A , ∀ b ∈ B ,
因此对偶LP为
Minimize ∑ v ∈ A ∪ B y v Subject to y a + y b ≥ 1 for ( a , b ) ∈ E y v ≥ 0. \begin{align*} \text{Minimize}\quad & \sum_{v\in A\cup B} y_v\\ \text{Subject to}\quad & y_a+y_b \geq 1 \quad\text{for } (a,b)\in E\\ & y_v\geq 0. \end{align*} Minimize Subject to v ∈ A ∪ B ∑ y v y a + y b ≥ 1 for ( a , b ) ∈ E y v ≥ 0.
容易发现这个对偶 LP 就是点覆盖问题的松弛 (relaxation，原问题是整数规划，这里将原问题的约束放松到实数解以构造线性规划)。基于弱对偶性，我们对于任意匹配 M M M C C C ∣ M ∣ ≤ ∣ C ∣ |M|\leq |C| ∣ M ∣ ≤ ∣ C ∣
定理-König 1931 : 设 M ⋆ M^\star M ⋆ C ⋆ C^\star C ⋆
∣ M ⋆ ∣ = ∣ C ⋆ ∣ |M^\star| = |C^\star| ∣ M ⋆ ∣ = ∣ C ⋆ ∣
另一个众所周知的对偶性，也是线性规划对偶性的一个特例，是最大流最小割定理 (max-flow=min-cost theorem)。
互补松弛：Complementarity Slackness. 强对偶性在原问题和对偶问题的最优解之间提供了一个重要的关系。
定理 ： 设 x ∈ R n x\in \mathbb{R}^n x ∈ R n y ∈ R m y\in \mathbb{R}^m y ∈ R m
x , y 都是最优解 ⟺ { x i > 0 ⇒ c i = ∑ j = 1 m A j i y j , ∀ i = 1 , … , n , y j > 0 ⇒ b j = ∑ i = 1 n A j i x i , ∀ j = 1 , … , m . x, y \text{ 都是最优解} \iff \begin{cases} x_i > 0 \;\Rightarrow\; c_i = \sum_{j=1}^m A_{ji} y_j, & \forall i=1,\dots,n, \\[1em] y_j > 0 \;\Rightarrow\; b_j = \sum_{i=1}^n A_{ji} x_i, & \forall j=1,\dots,m. \end{cases} x , y 都是最优解 ⟺ ⎩ ⎨ ⎧ x i > 0 ⇒ c i = ∑ j = 1 m A ji y j , y j > 0 ⇒ b j = ∑ i = 1 n A ji x i , ∀ i = 1 , … , n , ∀ j = 1 , … , m .
两个问题的可行解 x , y x,y x , y
原始变量 x i x_i x i ( A ⊤ y ) i ≥ c i (A^\top y)_i\geq c_i ( A ⊤ y ) i ≥ c i x i = 0 x_i=0 x i = 0 c i = ∑ j = 1 m A j i y j c_i = \sum_{j=1}^m A_{ji} y_j c i = ∑ j = 1 m A ji y j 证明 ：// TODO, 考虑由最优解推出互补松弛，再由互补松弛+可行解推出这是最优解。