Amerikanskan föll klart mot Tysklands Laura Siegemund, rankad 104 i världen, med siffrorna 3–6, 3–6.
Keys uttåg innebär att bara en av de sex högst seedade spelarna återstår inför fortsättningen av turneringen: världsettan Aryna Sabalenka.
Belarusiskan vann i två raka set över hemmahoppet Emma Raducanu, 7–6 (8–6), 6–4.
Sabalenka ställs i den fjärde omgången mot belgiskan Elise Mertens.
