不完全清楚你的问题。我试着回答一下(水平有限):
如果你的问题是:f(theta,x)不含无法简单计算的部分(例如f()含了复杂的积分形式),只是无法写成theta=g(x)的话,那个应该好办,有很多软件能求f(theta,x)的极值(不必通过计算偏导数来求),EXCEL的solver就可以(抱歉,我不会R,只会EXCEL)。
但如果f(theta,x)含无法简单计算的部分(例如f()含了复杂的积分形式),那就难了。你可以继续尝试某种数值方法计算f(theta,x)的近似值(能顺利求f(theta,x)的值或近似值,就可以有办法求极值);或者放弃使用MLE法,例如考虑用BAYES方法求一个参数估计的“置信区间”,那样,MCMC方法可能可以使你避免f(theta,x)含无法简单计算的部分了。