Tv-bilder visar bruna, snabbt flödande, översvämmade floder som hotar byggnader i Kagoshima.
De kraftiga regnfallen kommer efter att stora delar av Japan upplevt en brutal värmebölja där rekordtemperaturen 41,8 grader sattes i förra veckan.
Kagoshima ”är med om kraftiga regn som man aldrig tidigare har skådat”, säger en tjänsteman från Japans meteorologiska byrå (JMA) vid en presskonferens.
Den lokala brand- och katastrofmyndigheten uppmanar nu 530 000 människor i Kagoshimaregionen och närliggande Miyazaki att evakuera och vidta alternativa åtgärder.