Eksplosjonen skjedde i 15-tiden onsdag ettermiddag. Borgermesteren i Madrid, José Luis Martínez-Almeida, opplyste først at to personer var døde. Dette er siden oppjustert til tre.
Årsaken til eksplosjonen mistenkes å være en gasslekkasje.
– Alt peker mot dette, sa borgermesteren da han besøkte ulykkesstedet.
Eksplosjonen skjedde da arbeidere utførte reparasjoner på byggets varmtvannstank, sa representant for myndighetene Jose Manuel Franco til den spanske TV-kanalen RTVE, ifølge AFP.
De omkomne er en 85 år gammel kvinne og en mann som foreløpig ikke er identifisert, melder RTVE med henvisning til landets innenriksdepartement og brannvesen.
Ytterligere åtte personer er skadd.
Store mengder politi og brannfolk er på ulykkesstedet i Calle de Toledo. Det har oppstått brann i bygget. Dette gjør søket etter omkomne og overlevende vanskelig, sa borgermesteren.
Videoer og bilder delt på sosiale medier viser enorme skader fra eksplosjonen. Flere etasjer av bygget er totalskadd, og fasaden har kollapset. Stein og rester er strødd utover området.
Bygget ligger sørvest i sentrum av Madrid og skal ha blitt brukt som bolig og kontor for prester. Det ligger ved siden av et eldrehjem, en skole og en kirke. De første meldingene om hendelsen opplyste feilaktig at det var eldrehjemmet som var rammet, skriver El País.