如果是在不同问题中 输入不同的a、b值 我贴个程序
function z=ymin(x,a,b)
z=(a+b*x(2))/(x(1)*x(2)-1);

在COMMAND WINDOW中输入
>> a=1;（你想输入的a的值）
>> b=1;（你想输入的b的值）
>> minnum=fminsearch(@(x) ymin(x,a,b),[1,0])

答案是：
minnum =

    3.1626    0.3162
（既，在x=3.1626，y=0.3162时 得到最小值。把x，y带入，取相反数就是MAX（因为MATLAB中，没有最大数的函数））
（会提示Warning: Divide by zero.不知道怎么修改，望高手赐教，另外，如果有更好的，也希望不吝赐教）

如果要表达式……我再努力试试。我也只是初学没多久。