Die Geschichte spielt im Dörfchen Anatevka in der Ukraine im Jahr 1905. Im Dorf lebt eine jüdische Gemeinschaft, die großen Wert auf die Tradition legt. Der Milchmann Tevye lebt mit seiner Frau Golde und seinen fünf Töchtern in Armut. Trotz drohender Pogrome im zaristischen Russland bewahrt Tevye seinen Lebensmut und seinen Humor. Tevyes traditionsbewusste Lebensgestaltung gerät ins Wanken, als die drei ältesten seiner Töchter ins heiratsfähige Alter kommen. Da er fünf Töchter hat, muss Tevye die ersten drei ziehen lassen. Seine Töchter heißen Tzeitel, Hodel, Chavaleh, Shprintze und Bielke. Eigentlich sollte Yente, die Heiratsvermittlerin, ihnen einen passenden Ehemann vermitteln, Tevye verspricht seine älteste Tochter Tzeitel sogar schon dem wohlhabenden Fleischer Lazar Wolf, als diese ihm eröffnet, dass sie sich mit ihrem Jugendfreund, dem armen Schneider Motel, verlobt hat. Hodel, die zweitälteste Tochter, verliebt sich in den Studenten Perchik aus Kiew, den Tevye als Hauslehrer für seine Töchter aufnimmt.

Der schwarze New Yorker Stadtteil Harlem in den wilden 1920er Jahren ist geprägt von der Prohibition und den Auswirkungen der Wirtschaftskrise. Kleine Gauner, Banden und Gangstergruppen, allen voran der Mobster Dutch Schultz, profitieren vom illegalen Handel mit alkoholischen Getränken und verdienen ein Vermögen.