Enligt tidningen Times of Israel misstogs en grupp fallskärmsjägare på onsdagen av den egna militären för att vara fiender.
Händelsen ägde rum i norra Gaza, där striderna har återupptagits de senaste dagarna.
De fem dödade soldaterna var enligt IDF:s uppgifter mellan 20 och 22 år gamla. De ska enligt en inledande utredning ha befunnit sig i en byggnad. Stridsvagnsstyrkorna tros ha iakttagit något i ett fönster i byggnaden tiotals meter bort, trott att det var fientliga styrkors vapen och avfyrade två artillerigranater, skriver tidningen.