个体i=1的效用为u1(x1),成本为p(x1,x2)*c1;其纯效用为
π1=max u1(x1)-p(x1,x2)*c1;


社会纯效用为π=max u1(x1)+u2(x2)-p(x1,x2)*c1-p(x1,x2)*c2；两式分别对x1求导，
显然式（1）大于式（2），即个体1只要考虑自身的私人成本而不考虑社会成本，所以有动机超速。

如楼主所说，有convex条件的话比较方便。
请注意最后一句话“Assume that each agent's utility is linear in money”, linear function既是convex 又是concave。

不过为了探讨问题，我们还是假设一个一般的效用函数。

第i个人最大化的问题是：
max_{xi} Ui(xi - ci) p(xi, xj) + Ui(xi) [1 - p(xi, xj)]

一阶条件FOC:
Ui'(xi - ci) p(xi, xj) + Ui(xi - ci) pi'(xi, xj) + Ui'(xi) [1 -  p(xi, xj)] - Ui(xi) pi'(xi, xj) = 0

整理一下
(i0)  Ui'(xi - ci) p(xi, xj) + Ui'(xi) [1 -  p(xi, xj)]  = [Ui(xi) - Ui(xi - ci)] pi'(xi, xj)
另一个人j的解就满足：
(j0)  Uj'(xj - cj) p(xi, xj) + Uj'(xj) [1 -  p(xi, xj)] = [Uj(xj) - Uj(xj - cj)] pj'(xi, xj)
左边都是边际个人收益，右边都是边际个人成本。

社会总效用最大化问题是
max_{xi, xj} [Ui(xi - ci)+Uj(xj - cj)] p(xi, xj) + [Ui(xi)+Uj(xj)] [1 -  p(xi, xj)]
由FOC得到：
(i1)  Ui'(xi - ci) p(xi, xj) + Ui'(xi) [1 -  p(xi, xj)]  =  [Ui(xi) - Ui(xi - ci) + Uj(xj) - Uj(xj - cj)] pi'(xi, xj)
(j1)  Uj'(xj - cj) p(xi, xj) + Uj'(xj) [1 -  p(xi, xj)]  =  [Ui(xi) - Ui(xi - ci) + Uj(xj) - Uj(xj - cj)] pj'(xi, xj)
左边是边际个人收益，右边是边际社会成本。

可以看到 (i0) 和 (i1) 的左边是完全一样的，但是只要pi'(xi, xj)>0, 右边就是 (i1)的比(i0)要大。所以如果把右边的表达式对xi画图的话，(i1)右总是比(i0)右要高，另外因为是成本曲线，我们需要它们向上。
然后把左边(两个都一样所以不区分了)也对xi画图，如果convex的话，那会向下倾斜，至少也是与xi轴平行(linear的情况)，这样与(i1)右的交点一定在与(i0)右交点的左边，也就是(i0)的解比(i1)的大，即个人最优值比社会最优值大。

但其实即便左边也是向上倾斜的，也有可能导致所要的结果，比如左边曲线的倾斜程度比右面的两条线小，楼主可以自己画一下图看看。