Didžiojo kiemo vietoje nuo XIII a. pabaigoje stovėjo Ankstyvoji mūrinė pilis, jos dalys raudonu granitu pažymėtos kiemo grindinyje, o liekanos rodomos požemiuose. XVI a. pirmoje pusėje ir viduryje, valdant Žygimantui Senajam (1506–1548) ir jo sūnui Žygimantui Augustui (1544/1548–1572), čia buvo pastatyti Lietuvos didžiųjų kunigaikščių rūmai.
Jų keturi korpusai buvo išsidėstę aplink uždarą vidinį Didįjį kiemą. Kiemas buvo grįstas lauko akmenimis, pietryčiuose, netoli laiptinės bokšto, buvo šulinys. Pietinis korpusas ir rytinio korpuso dalis buvo pastatyta dar XVI a. pradžioje ir vis dar turėjo gotikos bruožų. Ši raidės L formos korpusų struktūra sietina su vadinamaisiais Senaisiais karališkaisiais rūmais (Aula regia antiqua). Kiti renesansiniai korpusai pastatyti XVI a. viduryje. XVII a. pradžioje rūmai remontuoti baroko stiliumi. Manoma, kad pietinis korpusas buvo reprezentacinis. Jo vakariniame gale, vėliau – vakariniame korpuse, buvo valdovo apartamentai. Rytiniame korpuse, kurio šiaurinė dalis kartais vadinama Bonos Sforcos bokštu, turėjo būti valdovės apartamentai. Šiaurės vakarų korpusas galėtų būti siejamas su vadinamaisiais Naujaisiais rūmais (Domus nova). Jų šiaurinėje dalyje buvo virtuvė.
XVII a. viduryje, karų metais, rūmai buvo nusiaubti, o 1799–1801 m. ir visai nugriauti. Rūmai su Didžiuoju kiemu pradėti tyrinėti 1987, o 2002–2018 m. buvo atkurti ir juose atvertas muziejus. Didžiajame kieme vyksta įvairūs renginiai.
Jame rasite ir paminklą „Lietuvos didžiojo kunigaikščio Gedimino priesakai Vilniui ir Lietuvai“.
