1816, da war John 24 Jahre alt, übernahm er die Sternwarte seines aus Hannover stammenden Vaters, der sich aus Altersgründen zurückzog.
In den 1820er Jahren vollendete John Herschel den Katalog von Doppelsternen am nördlichen Himmel, den sein Vater begonnen hatte – dabei unterstützte ihn intensiv seine Tante Caroline Herschel, ebenfalls eine herausragende Astronomin.
1833 reiste John Herschel für knapp fünf Jahre ans Kap der Guten Hoffnung. Er war wohl der erste, der große Instrumente im Gepäck hatte – ein Linsenfernrohr mit zwei Metern und ein Spiegelteleskop mit sechs Metern Brennweite.
Damit katalogisierte er den südlichen Sternenhimmel und weitete die Arbeit seines Vaters auf die gesamte Himmelskugel aus. Er erkannte, dass die Magellanschen Wolken – kleine Begleiter unserer Milchstraße – keine Nebel sind, sondern aus Sternen bestehen.
Bei der Wiederkehr des Kometen Halley 1835 entdeckte er, dass der Komet Gas verdampft.
1871 starb John Herschel im Alter von 79 Jahren. Weil er die Mathematik, die Astronomie und die Entwicklung der Fotografie so wesentlich beeinflusst hat, galt er vielen Kollegen als bedeutendster Forscher seiner Zeit – auch ohne die Entdeckung eines Planeten.