Laut Fehlermeldung ist das OSD Menü (oder eine anzuzeigende Grafit) zu groß. Ich empfehle mal zu versuchen ob es hilft, wenn Du das OSD kleiner einstellst. Da Du wohl nicht in's OSD Setup rein kommst, könntest Du mal schauen ob Du den entsprechenden Parameter in der /etc/vdr/setup.conf findest, oder dort versuchsweise alle den Skin betreffenden Parameter entfernen.