啊，打字好累。

代码如下：

function F = fun(k)
F = [(k(3)*(k(2)+k(3)-1))/5-(9*k(2)*k(3))/40-(17*k(3)^2)/80-(9*k(1))/20+1/4;
    k(3)^2/720-(k(1)*k(3))/40-k(2)/20-1/20;
    (9*(k(1)+k(3)-1)*(k(2)+k(3)-1))/40+(32*k(3)^2)/45-(k(1)*(k(2)+k(3)-1))/40
    -(9*k(2)*(k(1)+k(3)-1))/40-(9*k(3)*(k(1)+k(3)-1))/40-(k(3)*(k(2)+k(3)-1))/360-3/10];

k0=[0 0 0]
k=fsolve(@fun,k0)

最后matlab给出了一个解，但是好像是无效解。
k =

    0.1545    1.8086    0.3961

说明：fsolve stopped because the last step was ineffective. However, the vector of function
values is not near zero, as measured by the default value of the function tolerance.

打字辛苦，求币币！MUA

仍然非常感谢。。。

学习学习，受教了