Тренировал футбольный клуб «Севилья», который за два года под его руководством (2005—2007) выиграл два Кубка УЕФА, Суперкубок УЕФА и Кубок Испании. На тренерском мостике «Тоттенхэм Хотспур» выиграл Кубок английской лиги, первый для этого клуба после девятилетнего перерыва.
9 декабря 2008 года сменил немца Бернда Шустера на посту главного тренера мадридского «Реала».
10 сентября 2009 года подписал контракт на 4 месяца с ЦСКА. Однако уже 26 октября 2009 года контракт с ЦСКА был расторгнут по обоюдному согласию сторон в связи с неудовлетворительными спортивными результатами.
1 октября 2010 года подписал четырехлетний контракт с днепропетровским «Днепром».
Достижения
Командные
Логронес
- Второй призёр Сегунды (1): 1995/96.
Райо Вальекано
- Победитель Сегунда (1): 1998/99.
Севилья
- Обладатель Суперкубка Испании (1): 2007.
- Обладатель Кубка УЕФА (2): 2005/06, 2006/07.
- Обладатель Кубка Испании (1): 2006/07.
- Обладатель Суперкубка УЕФА (1): 2006.
Тоттенхэм Хотспур
- Обладатель Кубка Футбольной лиги (1): 2007/08.
Личные
- Третий лучший тренер 2007 года (после Карло Анчелотти и Алекса Фергюсона) по версии Международной федерации футбольной истории и статистики (IFFHS), а также совета профессиональных футбольных судей (WPPS).
- Обладатель Приза Мигеля Муньоса (1): 2006/07.
Интересные факты
Рамоса увольняли из клубов на протяжении трёх лет подряд в один и тот же день — 26 октября: в 2007 году из «Севильи», в 2008 году из «Тоттенхема», в 2009 году из ЦСКА.