An der Schönen Aussicht oberhalb der Karlsaue entstand zwischen 1871 und 1877 nach Plänen des Architekten Heinrich von Dehn-Rotfelser (1825–1885) ein Museumsgebäude, in dem die berühmte Gemäldesammlung des Landgrafen Wilhelm VIII. von Hessen Kassel (reg. 1730/51–1760) ihren Platz finden sollte. Der Neubau war notwendig geworden, da Jérôme Bonaparte, König von Westphalen (reg. 1807 bis 1813), den von François de Cuvilliés d. Ä. errichteten Galeriebau zu einer Stadtresidenz umfunktioniert und durch das Einziehen von Zwischendecken unbrauchbar gemacht hatte.
Unter preußischer Herrschaft entstanden die Pläne für einen angemessenen Ersatz. Als Vorbild diente Leo von Klenzes Alte Pinakothek in München (1826–1836). Zwar in kleineren Dimensionen geplant, sollte auch Kassel eine Gemäldegalerie mit Oberlichtsälen und seitlich angeordneten Seitenlichtkabinetten erhalten. Ähnlich der ursprünglichen Münchner Aufteilung diente nur das Obergeschoß der Präsentation von Gemälden. Im Erdgeschoß fanden die Gipsabgusssammlung und die kunstgewerblichen Sammlungen ihre Aufstellung. Wie in München war auch die Kasseler Galerie mit einem umfangreichen Fresken- und Skulpturenprogramm ausgestattet: Nach Ländern und Schulen im Sinne einer „Geschichte der Kunstgeschichte“ angeordnet, sollten Skulpturen, Wandmalereien und Büsten berühmter Künstler auf den Besuch der Sammlung einstimmen.
Im Zweiten Weltkrieg erlitt das Gebäude schwere Schäden. Erst als 1962 festgelegt worden war, dass die Gemäldegalerie Alte Meister künftig im Schloss Wilhelmshöhe gezeigt werden sollte, fiel auch die Entscheidung, die Alte Galerie wiederaufzubauen und in der nun Neuen Galerie die Sammlung der Moderne zu präsentieren. 1976 wurde das Haus eröffnet. An die Stelle der historistischen Innenausstattung war eine lediglich alten Mustern folgende farbige Tapetenauswahl getreten, die wiederum im Laufe der Jahre durch Überstreichen vereinheitlicht wurde. Die wichtigste Änderung des Nutzungskonzeptes bestand jedoch darin, dass nun beide Geschosse gleichwertig zur Präsentation der Sammlungen genutzt werden konnten.
Nach umfassender Sanierung durch das Berliner Büro Staab Architekten ist die Neue Galerie nach fünfjähriger Schließung seit November 2011 wieder zugänglich.