Hast du mal versucht die Option einzuschalten, abzuspeichern Programm zu beenden und danach den Haken wieder herauszunehmen und neu starten?
Anderenfalls könntest du die Einstellungen auf Standard zurücksetzen durch Löschen der Voreinstellungen und des Cache. Dazu folgendes Verzeichnis löschen: %appdata%\vlc - lässt sich durch den Ausführen-Dialog von windows aufrufen.