遗传算法优化神经网络只是在概率上有更大可能获得全局最优，这种获得全局最优的概率与初始种群数、交叉变异操作、遗传代数等等都有关系。所以，从另一方面讲，在概率上，遗传算法也可能得不到全局最优解、或得到的是近似最优解。如果神经网络结构比较简单的话，我的经验是matlab NN toolbox的某些算法给出的训练误差可能更好。在取随机初值的情况下，反复多run上N次，获得全局最优的概率也是不小的。

遗传算法功能还是很强大的，不仅可以用来寻求最优解，而且可以去除异常case。一般的方法比如施加动能法，也有很大的缺陷，当然了，能用支持向量机就不用神经网络了，麻烦还是初始参数多，关键是local minmum。