Los orígenes de la plaza se remontan al siglo XVI, cuando en la confluencia de los caminos (hoy en día calles) de Toledo y Atocha, a las afueras de la villa medieval, se celebraba en este sitio, conocido como plaza del Arrabal, el mercado principal de la villa, construyéndose en esta época una primera casa porticada, o lonja, para regular el comercio en la plaza.
En 1580, tras haber trasladado la corte a Madrid en 1561, Felipe II encargó el proyecto de remodelación de la plaza a Juan de Herrera, comenzándose el derribo de las casas de manzanas de la antigua plaza ese mismo año. La construcción del primer edificio de la nueva plaza, la Casa de la Panadería, comenzaría en 1590 a cargo de Diego Sillero, en el solar de la antigua lonja. En 1617, Felipe III, encargó la finalización de las obras a Juan Gómez de Mora, quién concluirá la plaza en 1619.
La plaza Mayor ha sufrido tres grandes incendios en su historia, el primero de ellos en 1631, encargándose el mismo Juan Gómez de Mora de las obras de reconstrucción. El segundo de los incendios ocurrió en 1670 siendo el arquitecto Tomás Román el encargado de la reconstrucción. El último de los incendios, que arrasó un tercio de la plaza, tuvo lugar en 1790, dirigiendo las labores de extinción Sabatini.
Se encargó la reconstrucción a Juan de Villanueva, que rebajó la altura del caserío que rodea la plaza de cinco a tres plantas y cerró las esquinas habilitando grandes arcadas para su acceso. Las obras de reconstrucción se prolongarían hasta 1854, continuándolas, tras la muerte de Villanueva, sus discípulos Antonio López Aguado y Custodio Moreno.
En 1848, se colocó la estatua ecuestre de Felipe III en el centro de la plaza, obra de Juan de Bolonia y Pietro Tacca que data de 1616. En 1880, se restauró la Casa de la Panadería, encargándose Joaquín María de la Vega del proyecto. En 1921 se reformó el caserío, trabajo a cargo de Oriol. En 1935 se realizó otra reforma, llevada a cabo por Fernando García de Mercadal.
Y en los años 60 se acometió una restauración general, que la cerró al tráfico rodado y habilitó un aparcamiento subterráneo bajo la plaza. La última de las actuaciones en la plaza Mayor, llevada a cabo en 1992, consistió en la decoración mural, obra de Carlos Franco, de la Casa de la Panadería, que representa personajes mitológicos como la diosa Cibeles.