El 10 de julio de 2001 fue presentado como jugador del Real Madrid. El traspaso se cifró en unos 75 millones de euros, lo que le convirtió en el jugador más caro en la historia del fútbol mundial. Aunque al principio le costó acomodarse en un equipo lleno de estrellas, culminó la temporada anotando el gol que daba la victoria por 2-1 al Real Madrid ante el equipo alemán Bayer Leverkusen en la final de la Liga de Campeones de 2001-2002, celebrada en Glasgow, y que fue considerado por la UEFA el mejor gol de las finales de la Liga de Campeones.

Con la camiseta blanca coincidió con talentos del fútbol mundial de la talla de Luís Figo, Ronaldo, Raúl González, Roberto Carlos, Fernando Hierro, David Beckham, Iker Casillas ó Michael Owen entre otros. Este elenco de jugadores, reunido bajo el mandato del presidente blanco Florentino Pérez será bautizado por la prensa como "Los Galácticos", lo que a su vez se convertirá en espada de doble filo para los intereses del vestuario madridista y que desenbocará en la dimisión del mencionado Presidente.

El 7 de mayo de 2006 jugó su último partido con el Real Madrid, jugado en el Santiago Bernabéu frente al Villarreal CF. El partido acabó empatado 3-3, en el que Zidane marcó el segundo gol para el Madrid. Todos los jugadores del Real Madrid jugaron con ZIDANE 2001/2006 escrito bajo el logo del club. Al final del partido se intercambió la camiseta con Juan Román Riquelme, del Villareal. Fue ovacionado por los aficionados al grito de merci. Lloró visiblemente en al campo, volviendo a salir a saludar a la grada tras la finalización del encuentro, siendo éste uno de los momentos más emocionantes de su carrera.