Dans le quartier nord de Neuilly-sur-Seine, il y avait, avant-guerre, une chapelle dédiée à saint Jacques. Elle sera érigée en église paroissiale en 1952 par Mgr Feltin, archevêque de Paris. Après la guerre, la chapelle sera partiellement démolie, puis reconstruite et agrandie. Les architectes en seront MM. Millochau et Gandet. La nouvelle église Saint-Jacques sera consacrée en 1962.
La construction de ce lieu de culte doit beaucoup à Monseigneur Nicolas Iung, chanoine titulaire de Notre-Dame de Paris et premier curé de l'église, qui s'est voué corps et âme à cette tâche. Un panneau dans la nef précise qu'aucune subvention n'a été accordée par l'État ou l'archevêché. En conséquence, Saint-Jacques n'a pas été construite dans le cadre des chantiers du Cardinal (qui, de 1949 à 1952, se sont en fait appelés «l'Œuvre des Chantiers» car l'archevêque de Paris, Mgr Feltin, n'a été créé cardinal qu'en janvier 1953). Les mêmes sources indiquent que l'église n'a vu le jour que grâce aux paroissiens de Saint-Jacques, à la grande générosité de quelques familles de Neuilly-sur-Seine et, de par le monde, à de nombreuses personnes prénommées Jacques, sollicitées pour l'occasion.