按以下方法试试？

从没听说过如此古怪的问题，可以这样测试看看：

完全卸掉Realplayer，去google搜索并下载【暴风影音】的5.x版本，这个软件基本上全兼容目前市面上各种编码的电影，例如RMVB、Divx、Xvid...

然后试试播放一些电影，例如DVD/VCD/AVI（mpeg4)，看看TV OUT是否正常？最后再试试播放你的那些RMVB影视文件

你使用的是什么显卡？一般ATI的显卡TV OUT质量较好，重装驱动试试？我自己就是用ATI Radeon8500显卡专门接到电视机看电影的，使用4.12驱动，效果一流。