José María Rubio Peralta est né à Dalías (Almería) le 2 juillet 1864 au sein d'une famille très nombreuse. Il fréquenta le séminaire de Grenade et de Madrid, où il fut ordonné prêtre en 1887. Il exerça son ministère sacerdotal dans les paroisses de Chinchón et Estremera. Il fut professeur de séminaire, notaire de la Curie et chanoine des Moniales de Saint-Bernard. 

En 1906, il entra dans la Compagnie de Jésus et exerça son ministère pastoral à Madrid, où il demeura jusqu'à sa mort, à Aranjuez le 2 mai 1929. 

Formé à l'école des Exercices spirituels de saint Ignace de Loyola, ayant une profonde vie spirituelle nourrie par l'amour de l'Eucharistie et la dévotion pour le Coeur de Jésus, il se consacra à réconcilier les pénitents, à prêcher l'Évangile sous une forme simple, et à l'attention pastorale et sociale dans les quartiers les plus pauvres de Madrid. Il s'engagea au service de la formation des laïcs, pour qu'ils se comportent en chrétiens au sein de leur famille, dans leur profession et dans la société. Il promut l'oeuvre des "Marías de los Sagrarios" (Marie des Tabernacles). 

Dès cette époque on l'appelait déjà "l'apôtre de Madrid". 

Il fut béatifié par Jean-Paul II le 6 octobre 1985.

Canonisé le 4 mai 2003, à Madrid, par le Pape Jean-Paul II.