Rum Mehmet Paşa Camiinin yapım emri 1471 yılında Fatih Sultan Mehmet’in vezirlerinden Mehmed Paşa tarafında verilmiştir. Caminin olduğu yerde daha önceden bir Bizans tapınağı olduğu sanılmaktadır. Cami Osmanlılarca Üsküdar’da inşa edilen ilk büyük camidir. Kanatlı salonun her iki yanında iki oda mevcuttur.

Camide iki ünlü hatta olan Hattat Arif ve Mehmed Sami’nin eserleri vardır. Aralarında Rumi Mehmed Paşa’nınki de bulunan mezarlar avlunun sol tarafında yer alır.

Camiye gelir oluşturması için hemen yakınına Tarihî Şifa Hamamı inşa edilmiştir. Burası Üsküdar’ın en eski hamamıdır ve halen faaliyet göstermektedir. Erkek kısmının karşısında, Patrona Halil İsyanında öldürülen Nevşehirli Damat İbrahim Paşa adına yaptırılmış 1729 tarihli bir çeşme vardır.