显著和r2不划等号。r2很小也可能显著

r2 可以理解为你的model是不是可以很好的cover你的population。譬如这里，你的r2是0.047，就是说，这个model只能解释4.7% population variance。但同时p-value 显著，即是说，在你的model能解释的范围内，它的表现是很好的。不过总体而言，你的这个model相对你的数据及而言是poorly fitted.
可能的问题有两种：
一个是你的predictor不全，即是说，还有其他显著的variable，你需要把他们找出来放在你的model里。这个可能是新的variable，也可能是你先有variable的interaction项。
另一个可能就是这个数据集并不适用于ordinary linear model。你可以试试generalized linear model。

在社会科学问卷调查的分析中常常出现的事情，因为影响因素太多了，几个变量能解释5%左右已经非常不错。而宏观经济研究的R方一般比较大，其中应该有共同趋势的原因。