Hemmalagets mål kom på straff genom Chris Wood, sedan Aston Villas Lucas Digne fått bollen på armen när han viftade med händerna i straffområdet.
Victor Nilsson Lindelöf blev kvar på bänken under hela matchen för Aston Villa.
I Premier League ligger Nottingham Forest på 16:e plats, fem poäng framför Tottenham på nedflyttningsplats. Aston Villa å andra sidan ligger femma och är i högsta grad med i kampen om Champions League-plats i ligan.
Returen spelas nästa torsdag på Villa Park.
