Das kleine Land Freedonia befindet sich in einer schweren finanziellen Notlage, die aktuelle Regierung sieht keinen Ausweg in der Staatskrise. Die reiche Witwe Teasdale, die das Land mittlerweile im Alleingang finanziert, fordert für einen weiteren Kredit, dass man im Gegenzug den von ihr verehrten Rufus T. Firefly (Groucho) zum Regierungschef ernennt. Dies geschieht auch, doch bald wird klar, dass Firefly seinen Pflichten als Premierminister kaum nachkommt. Unterdessen plant der Nachbarstaat Sylvania, in Freedonia einzumarschieren. Chicolino (Chico) und Pinky (Harpo) werden vom sylvanischen Botschafter Trentino als Spione auf den neuen Staatschef Firefly angesetzt.

Johann Strauss, Sohn des bekannten Walzerkomponisten gleichen Namens, arbeitet am Beginn seiner illustren Karriere in einer Bank. Eines Tages wird er entlassen, weil er zu viel an die Musik denkt und zu wenig an die Kunden am Schalter. Seine Freundin Poldi Vogelhuber, die reizende Tochter des Bankdirektors, unterstützt Johann in seinem Bestreben, ein Musiker zu werden. Der Weg zum Erfolg ist steinig, doch mit Poldi, nunmehr als Ehefrau, an seiner Seite wird der Ruhm von Johann Strauss immer größer.

Casablanca während des Zweiten Weltkriegs: Frankreich ist von der deutschen Wehrmacht erobert und teilweise besetzt, nicht dagegen das französische Protektorat Marokko, das zu Französisch-Nordafrika gehört und damit durch das Vichy-Regime verwaltet wird. Viele fliehen nach Casablanca, um dort einen Flug ins neutrale Lissabon zu ergattern, von wo aus sie hoffen, weiter nach Amerika gelangen zu können. Die meisten der Flüchtlinge gelangen allerdings nicht über Casablanca hinaus, da der französische Polizeichef Capitaine Louis Renault mit den Deutschen zusammenarbeitet.