我使用的matlab版本为2012a，解决这个问题的方法为：Matlab 2012a 中在菜单中打开File->Preference->General->Java heap space，调整大小。我的物理内存为8G，matlab设置的默认为196M，最大可以设置为物理内存的1/4。我将Jave heap space调整到最大2G后，程序正常运行。
详细可以参考：http://www.mathworks.cn/support/solutions/en/data/1-18I2C/
How do I increase the heap space for the Java VM in MATLAB 6.0 (R12) and later versions?