如果你的电脑内存足够大，到底多大我没测算过，反正我的16GB内存没有跑成功20000*300，你可以试试下面的代码：我用2000*300的数据测算过，如果2楼的代码耗时为1的话，上面的方法大概耗时0.013。

如果你电脑的内存不大的话，就可能要忍受较长的执行时间了，可以试试用C++代码的函数：用2000*300的数据测算过，如果2楼的代码耗时为1的话，上面的方法大概耗时0.85左右。但是好处是，对内存的利用比较有效率，这需要你tradeoff了。

用v_outer函数，需要安装java的。但是速度比较快，可以试一下哈！
v_outer函数在qdap包里。
本来我用outer做了一个，速度比for循环要好一些。但这个应该是比较快的。
测了一下10000行，300列的数据。

library(qdap)
dat <- matrix(sample(c('A','T','G','C'),10000*300,replace=TRUE),ncol=300)
newadd <- function(x,y){
    sum(!(x==y))
}
res <- v_outer(t(dat),newadd)

内存16g,处理器i7,6分钟多吧！

我找到进一步改进的方法了——
为什么我第一种方法耗内存，其实主要是中间变量太多，每一个20000*20000的中间变量都占用3.2G内存，会使后面的运算越来越不够资源，那么，我可以这样：在我的16G内存上测试20000*300的矩阵成功了，耗时20多秒（这个和我之前的理论推算倒是一致的）；如果内存比较小的，可以试试在上面代码的每一句之间加上：gc()试试。

多谢楼上各位大神的指点。我是在一台八核服务器上跑的，2楼的方法耗时约2个小时左右。
后来我采用了并行的方式，耗时约6分钟可以跑完，以下是我的代码。
有时间再试试楼上各位大神的方法。
初学R，各位大神的指点受益匪浅。

试了一下你的算法，效率更高，不到一分钟即可算完，完美解决了我的问题，佩服的五体投地。
你的算法中关于矩阵运算的部分，我还得恶补一下，完全没看明白运算的过程，惭愧。