Ups, mein Screenshot war von der MLD-6
Bei der MLD-5 kannst Du an der Markierten Stelle wählen, in welchem Format die Ausgabe erfolgen soll. Wenn Du "Ext" auswählst, wird der Stream in die Qualität transcodiert, die Du in den Settings für Streamdev eingestellt hast. Den Codec kannst Du aber nicht frei wählen (sofern ich das richtig erinnere). Lediglich die Komprimierung.
Du kannst also lediglich zwischen Original und transcodiert auswählen. Wenn Du unbedingt einen bestimmten Codec haben möchtest, musst Du das extremux Script (unter /etc/vdr/plugins/streamdev... oder so ähnlich) selber anpassen.
In Deinem ersten Screenshot ist zu sehen, mit welchem Befehl die unterschiedlichen Eingangsformate konvertiert werden sollen (gilt nur für die Ausgabe über Live). Dort könntest Du den Konvertierungsbefehl entsprechend Deiner Wünsche anpassen. Du musst dabei aber bedenken, das Browser nur wenige Codecs anzeigen können. Anzeigen kannst Du das im Webinterface des Live Plugins unter "Fernbedienung"