评分信度计算 - SPSS论坛

4444

收藏 2011-03-14

请教高手：80篇作文按三个等级评定，两个方案：1）请8个评分员分四组，每组评20篇；2）请5个评分员，同时评80篇。哪种设计更合理？考虑到方案2评分员会比较疲惫，如按方案1，评分员信度如何计算？

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

全部回复

2011-3-15 10:06:06

方案1的问题：如果8名人员之间评分差别太远，会对很多作品不公。2人同时评同样的20篇，算相关即是评分者信度。
方案1的问题：5个评分员，同时评80篇，就是累一些，受前后作品影响较大。算肯德尔和谐系数即是分者信度。
看你评审作品是什么性质，高利害的请用2、一般的用1。仅个人意见。

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

2011-3-15 12:03:55

感谢回复！如果按方案1每组看20篇，会不会样本太小？除了算同组2名评分员的相关外，还有什么其他分析可以做？研究目的是检测评分标准由不同评分员使用时的稳定性。

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

2011-3-15 13:12:05

2个任人之间一般就是相关法了。
仅为了研究，两种方案一起做，比较效果。
方案2还要一些方法：你一般用等级评定或直接打分，也可以用心理物理法里的对偶比较法。

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享