Pologne, 1962, sœur Anna, orpheline très pieuse, s'apprête à prononcer ses vœux définitifs. La Mère supérieure l'incite à sortir quelques jours de l'austère couvent où elle vit une existence de silence depuis qu'elle y a été recueillie enfant.
Elle retrouve une tante inconnue, ancien procureur stalinien tombé dans l'alcool, qui lui révèle ses origines juives. Toutes deux partent à travers la campagne afin de comprendre ce qui est advenu de ses parents sous l’occupation nazie. Au village où ils vivaient, l'omerta règne, nul n'avoue connaître les Lebenstein.
À mesure que le mystère se lève, Ida découvre la vie hors du couvent, la faiblesse des Hommes, la musique, grâce à un groupe de jazz qui fait sonner Coltrane au fin fond de la campagne.