Python中的随机优化

Question

我正在尝试把cvxopt（一个优化求解器）和PyMC（一个采样工具）结合起来，用来解决凸的随机优化问题。

首先，使用pip安装这两个包非常简单：

pip install cvxopt
pip install pymc 

这两个包各自独立运行得很好。下面是一个使用cvxopt解决线性规划（LP）问题的例子：

# Testing that cvxopt works
from cvxopt import matrix, solvers

# Example from http://cvxopt.org/userguide/coneprog.html#linear-programming

c = matrix([-4., -5.])
G = matrix([[2., 1., -1., 0.], [1., 2., 0., -1.]])
h = matrix([3., 3., 0., 0.])
sol = solvers.lp(c, G, h)
# The solution sol['x'] is correct: (1,1)

但是，当我尝试把它和PyMC一起使用时（比如在某个系数上放一个分布），PyMC却报错了：

import pymc as pm
import cvxopt

c1 = pm.Normal('c1', mu=-4, tau=.5**-2)

@pm.deterministic
def my_lp_solver(c1=c1):
    c = matrix([c1, -5.])
    G = matrix([[2., 1., -1., 0.], [1., 2., 0., -1.]])
    h = matrix([3., 3., 0., 0.])
    sol = solvers.lp(c, G, h)
    solution = np.array(sol['x'],dtype=float).flatten()
    return solution

m = pm.MCMC(dict(c1=c1, x=x))
m.sample(20000, 10000, 10)

我收到了以下PyMC的错误信息：

<ipython-input-21-5ce2909be733> in x(c1)
     14 @pm.deterministic
     15 def x(c1=c1):
---> 16     c = matrix([c1, -5.])
     17     G = matrix([[2., 1., -1., 0.], [1., 2., 0., -1.]])
     18     h = matrix([3., 3., 0., 0.])

TypeError: invalid type in list

这是为什么呢？有没有办法让cvxopt和PyMC更好地配合呢？

背景：

如果有人好奇，PyMC允许你从任何你选择的函数中进行采样。在这个特定的情况下，我们采样的函数是将一个线性规划问题映射到解决方案的函数。我们之所以从这个函数中采样，是因为我们的线性规划问题包含随机系数，所以不能直接使用现成的线性规划求解器。

更具体地说，PyMC的单个输出样本就是线性规划问题的一个解。随着线性规划问题的参数变化（根据你选择的分布），PyMC输出的样本也会不同，而我们的目标是得到一个后验分布。

上面的解决方案灵感来自于这个回答，唯一的不同是我希望使用一个真正的通用求解器（在这个例子中是cvxopt）。

Answer 1

用pm.Normal生成的c1的类型是numpy array，你只需要把它提取出来，然后转换成float(c1)，这样就可以正常使用了：

>>> @pm.deterministic
... def my_lp_solver(c1=c1):
...     c = matrix([float(c1), -5.])
...     G = matrix([[2., 1., -1., 0.], [1., 2., 0., -1.]])
...     h = matrix([3., 3., 0., 0.])
...     sol = solvers.lp(c, G, h)
...     solution = np.array(sol['x'],dtype=float).flatten()
...     return solution
... 
     pcost       dcost       gap    pres   dres   k/t
 0: -8.1223e+00 -1.8293e+01  4e+00  0e+00  7e-01  1e+00
 1: -8.8301e+00 -9.4605e+00  2e-01  1e-16  4e-02  3e-02
 2: -9.0229e+00 -9.0297e+00  2e-03  2e-16  5e-04  4e-04
 3: -9.0248e+00 -9.0248e+00  2e-05  3e-16  5e-06  4e-06
 4: -9.0248e+00 -9.0248e+00  2e-07  2e-16  5e-08  4e-08
Optimal solution found.