Comme l'église Notre-Dame-du-Travail non loin, Notre-Dame-du-Rosaire fait partie du quartier de Plaisance-Vaugirard, un quartier marqué, dès avant la fin du XIXe siècle, par l'implantation d'usines et l'accroissement de la population.
Le besoin cultuel conduisit à construire une église en 1909. Elle fut confiée aux soins de l'architecte Pierre Sardou (1873-1952). Le style choisi répond au phénomène qui frappa la société française après la Séparation de l'Église et de l'État en 1905 : multiplier les «chapelles de secours» en faisant simple.
Pour assurer cette simplicité peu coûteuse et garante d'une construction rapide, quoi de mieux que de revenir aux édifices paléochrétiens et romans des origines. «Notre-Dame-du-Rosaire est sans doute l'exemple le plus remarquable de cette simplicité retrouvée après les fastes du Sacré-Cœur», écrit Simon Texier dans l'ouvrage Églises parisiennes du XXe siècle.
Pierre Sardou s'inspire de l'église des Saints-Apôtres de Florence : dépouillement des formes, arcades en plein cintre ornées de chapiteaux nus, clarté des proportions.
Notre-Dame-du-Rosaire, consacrée en 1911, se rattache au roman florentin.
On notera néanmoins une intéressante voûte en bois à charpente apparente et une multitude de beaux vitraux conçus par Henri-Marcel Magne (1877-1944), notamment une série de litanies de la Vierge dans les fenêtres hautes de la nef. Magne est également l'auteur du Chemin de croix et du triptyque de l'Éducation de la Vierge.
Cette page donne un très large aperçu de l'œuvre de cet artiste.