Matchen var mållös till Atletico Madrid tog ledningen i 35:e minuten, genom Reinildo Mandava.
Rayo Vallecano kvitterade till 1-1 i slutminuterna av första halvlek, genom Alvaro Garcia framspelad av Pep Chavarria. Det matchavgörande målet kom på stopptid, när Memphis Depay slog till och gjorde 2-1 för Atletico Madrid.
Det här var Atletico Madrids åttonde uddamålsseger den här säsongen. Förlusten var också Rayo Vallecanos femte uddamålsförlust.
Det här betyder att Atletico Madrid ligger kvar på tredje plats i tabellen, och Rayo Vallecano på 13:e plats.
Söndag 4 februari 21.00 spelar Atletico Madrid borta mot Real Madrid. Rayo Vallecano möter Sevilla hemma på Estadio de Vallecas måndag 5 februari 21.00.