1925 übernimmt er von Noel Coward die Rolle des Nicky Lancaster in Cowards Stück "The Vortex", 1926 spielt er den Lewis Dodd in Margaret Kennedy's "The Constant Nymph". Im gleichen Jahr schließt er sich der Truppe von Harcourt Williams im "Old Vic" an und spielt unter anderem auch den Romeo, Richard II., Macbeth und Hamlet. Letzteren spielt er mehr als 500 Mal. 1928 debütiert der Schauspieler mit der angenehmen Stimme am Broadway in New York. 1930 spielt er erstmals am Old Vic den Hamlet, da erhält er die Auszeichnung als bester Shakespeare-Interpret. Im gleichen Jahr ist er der John Worthing in Oscar Wildes "The Importance of Being Ernest". Wieder im Old Vic spielt er den Prospero und den Antonius in "Antonius und Cleopatra".
Ab 1932 arbeitet er als Regisseur, gelegentlich auch als Theaterleiter. 1935 spielt er abwechselnd mit Laurence Olivier den Mercurio und den Romeo in "Romeo und Julia" - auch von ihm inszeniert. Seit 1936 ist er regelmäßig am Broadway engagiert. 1937 geht er ans Queens Theatre und gründet seine eigene Truppe, führt Regie und spielt den Shylock im "Kaufmann von Venedig". 1950 erscheint er erstmals im Shakespeare Memorial Theatre als Angelo in "Maß für Maß" und 1951 ist er ein unvergesslicher Leontes in "The Winters Tale".
In den 50er Jahren beginnt er sich auf moderne Autoren einzustellen, spielt N. C. Hunter, Noel Coward, Edward Albee, Alan Bennett, David Storey, Edward Bond, Harold Pinter und Julian Mitchell. Als Peter Hall die Leitung des National Theaters übernimmt, spielt Gielgud 1974 zur Eröffnung der Saison den Prospero im "Sturm". Seine Kinorollen sind vorrangig Shakespeare-Rollen, so der Cassius in Joseph Mankiewiczs "Julius Caesar" (1953), der Clarence in Laurence Oliviers "Richard III." (1955), der Henry IV., in Orson Welles' "Falstaff - Chimes at Midnight" (1966) und der Caesar in Stuart Burges "Julius Caesar" (1970). Für seine Rolle in Peter Glenvilles "Becket" erhält Gielgud 1964 eine Oscar-Nominierung. Mit Regisseur Tony Richardson arbeitet er in der bösen Satire "Tod in Hollywood" (1965) und "Angriff der leichten Brigade" (1968) zusammen. 1974 spielt er in Sidney Lumets "Mord im Orient-Express" und 1977 in Jack Golds "Schlacht in den Wolken".
1977 erhält er den Preis der New Yorker Filmkritik für den Alain Resnais-Film "Providence". 1979 ist er in Andrzej Wajdas "Der Dirigent" und 1980 in Hugh Hudsons "Die Stunde des Siegers" zu sehen. Im gleichen Jahr spielt er in David Lynchs "Der Elefantenmensch". 1981 erhält er einen Oscar für die Nebenrolle in Steve Gordons "Arthur - Kein Kind von Traurigkeit", im gleichen Jahr folgt Richard Attenboroughs "Gandhi". 1978 sieht man ihn an der Seite von Peter Ustinov in "Rendezvous mit einer Leiche", 1990 arbeitet Gielgud unter der Regie von Peter Greenaway und mimt den Prospero in dessen Sturm-Adaptation "Prosperos Bücher". 1995 ist er dabei, als Al Pacino seinen ambitionierten Shakespeare-Film "Looking for Richard" dreht und natürlich gehört Gielgud zum aufwändigen Team von Kenneth Branaghs "Hamlet" (1996) und dem mehrfach Oscar-nominierten Historiendrama "Elizabeth" (1998).
Weitere Filme mit John Gielgud: "Geheimagent" (1936), "The Prime Minister" (1941), "In 80 Tagen um die Welt", "The Barretts Of Wimpole Street" (beide 1956), "Die heilige Johanna" (1957), "Sein gefährlichster Auftrag" (1966), "Der mysteriöse Mr. Sebastian", "In den Schuhen des Fischers" (beide 1968), "Gold" (1973), "Brillanten und Kakerlaken" (1974), "Die Abenteuer des Joseph Andrews" (1976), "Der menschliche Faktor" (1979), "Caligula", "Der Fluch der Sphinx", "Die Formel" (alle 1980), "Im Wendekreis des Kreuzes" (1983), "Eine demanzipierte Frau" (1985), "Kreuzfeuer der Agenten" (1986), "Blaubart und seine Kinder" (1987), "Ein Mann für jede Jahreszeit", "Arthur II", "Das verflixte erste Mal", "Feuersturm und Asche" (alle 1988), "Die Strauß-Dynastie" (1989), "Im Glanz der Sonne", "Wie ein Licht in dunkler Nacht" (beide 1992), "Scarlett" (1994), "Der 1. Ritter", "Gullivers Reisen", "Haunted - Haus der Geister" (alle 1995), "Das Porträt einer Lady", "Shine - Der Weg ins Licht" (beide 1996) und "Merlin" (1998).