Den förre rumänske landslagsbacken, som spelat i Inter och varit tränare för klubbens ungdomslag, inledde sin tränarkarriär på seniorsidan för bara några månader sedan, i Parma.
Chivu ersätter Simone Inzaghi som lämnar Inter för saudiska al-Hilal.
Chivu har skrivit på för två år. Han får en rivstart med klubblags-VM där Inter startar den 21 juni mot Urawa Reds.