Beskedet kom dagen efter 1–4-förlusten mot Newcastle. Klubben skriver att det var "en lämplig tid att göra förändringen".
Österrikaren kom till Southampton i december 2018.
Tränaren Ruben Sellés tar över tillfälligt, i väntan på en permanent lösning, och leder laget i onsdagens ligacupmatch mot Sheffield Wednesday.
