Schnell war Mosers Bau zu klein. 1925 vergrößerte der Archtekt selbst sein Gebäude um einen rückwärtigen Anbau. 1944 begannen die Planungen für eine nächste, nun deutlich größere Erweiterung durch die Architekten Hans und Kurt Pfister. Eingeweiht konnte dieser Gebäudetrakt allerdings erst 1958 werden. 1976 erfolgte die dritte Erweiterung des Kunsthauses Zürich, diesmal von Erwin Müller. 2001 beginnen abermals Planungen für eine Vergrößerung der Ausstellungsflächen. Für weitere Anbauten war jedoch kein Platz mehr vorhanden, so dass die Entscheidung getroffen wurde, die beiden historischen Turnhallen der alten Kantonsschule zu opfern, um einen Neubau für das Kunsthaus zu erreichten. Den Wettbewerb dafür gewann 2008 das Berliner Büro von David Chipperfield Architects, mit einem Bau, der gestalterisch die Brücke schlägt zwischen seinen beiden Nachbarn, der Kantonsschule und dem Kunsthaus.