46-åringen, som slog in den avgörande straffen när Italien vann VM 2006, har varit tränare för Lyon sedan i september då han ersatte Laurent Blanc som fick sparken.
Men någon vidare effekt fick inte det tränarbytet.
Lyon ligger efter tolv spelade matcher sist i Ligue 1 med endast en vinst. Nu ersätts Grosso av Pierre Sage som blir tillfällig huvudtränare.
För Grosso har det, på många sätt, varit en turbulent säsong. I oktober skadades han i en stenattack innan bortamatchen mot Marseille. Detta då arga fans kastade stenar mot bussen varpå Grosso skadades och fick uppsöka vård.
