Vittnen berättar om hur de hörde explosioner och skottlossning samt såg rök välla ut från fängelset, som ligger i närheten av presidentpalatset. I byggnaden finns även den regionala säkerhetstjänstens högkvarter.
Jihadistgruppen al-Shabaab säger sig ligga bakom dådet och att de har fritagit fångar.
Statliga somaliska medier rapporterar att soldater vid fängelset stoppat attacken och dödat flera av angriparna.
Det finns inga uppgifter om antalet döda eller skadade vid angreppet.