А зачем именно избавиться? Они сильно мешают?
Когда все хорошо - можно пользоваться любым привычным плеером (благо и Pot Player, и VLC, и Gom Player, и MPC HC имеют встроенные кодеки). А вот когда проблема с воспроизведением - может не помешать возможность попробовать разные варианты.
Хотя я предпочитаю для этого, по возможности, иметь под рукой portable версии.