Nikkei 225-indexet backade 0,3 procent medan det bredare Topix-indexet gick ned 0,5 procent.
De flesta börserna i Asien höll stängt på onsdagen. Men i Tokyo var det öppet och börserna föll i väntan på den amerikanska centralbanken Federal Reserves räntebesked, som kommer kl 20 på onsdagskvällen.
Nikkei 225-indexet backade 0,3 procent medan det bredare Topix-indexet gick ned 0,5 procent.
Klicka här för att följa oss på Google