Nilsson klarade 1,93 meter på första försöket, vilket gav medalj. Men när ribban höjdes till 1,95 blev det tre misslyckade försök för svenskan. Hennes personbästa är 1,94 meter som hon satte i slutet av juni.
Guldet gick till serbiskan Angelina Topić, som klarade 1,95 meter på andra försöket.
Joana Herrmann, Tyskland, tog brons på 1,91 meter.
Sedan tidigare har Sverige en medalj, ett silver, från årets U23-EM.
Det togs av Jonathan Grahn på 10 000 meter. Han sprang också herrarnas 5 000 meter under lördagen, då blev det en sjätteplats.