Skyttekungen Erling Braut Haalands 1–0 redan i den nionde minuten såg ut att stå sig.
Haaland kombinerade med Tijjani Reijnders, fick fritt läge och kunde göra sitt femte mål för säsongen.
Arsenal förde spelet, men såg länge ut att gå bet på en kvittering i jakten.
I den tredje tilläggsminuten slog dock Londonlaget till.
Gabriel Martinelli, inbytt i 80:e minuten, lobbade iskallt över Gianluigi Donnarumma i Citymålet och kunde jubla tillsammans med Gyökeres och de andra lagkamraterna i Arsenal.
Krysset var dock en seger för regerande mästarlaget Liverpool i jakten på en ny titel.
Liverpool har gått rent efter fem omgångar och leder med fem poängs marginal före just Arsenal, trean Tottenham och fyran Bournemouth som alla har tio poäng.
Manchester City är på nionde plats med sju inspelade poäng.