Nederländaren Tallon Griekspoor såg ut att bjuda på en rejäl skräll i Paris när han ledde med 4–1 i femte och avgörande set.
Då kom Zverevs mäktiga upphämtning.
Tysken tvingade fram tiebreak och vann det klart med 10–3 och matchen med 3–6, 6–4, 6–2, 4–6, 7–6.
Femteseedade ryssen Daniil Medvedev slog tjecken Tomas Machac med 7–6 (7–4), 7–5, 1–6, 6–4.
Zverev är fortsatt en av favoriterna att vinna årets andra Grand slam. En rättegång, där Zverev misstänks för att övergrepp mot en före detta flickvän, pågår parallellt i Berlin.
I damernas singel säkrade Elena Rybakina, Kazakstan och belarusiskan Aryna Sabalenka vidare spel efter segrar mot Elise Mertens, Belgien (6–4, 6–2) respektive Paula Badosa, Spanien (7–5, 6–1).