Im Stil der flämischen Renaissance ist das Rathaus nach den Plänen von Christoph Hehl ab 1889 für die damals noch eigenständige Stadt Harburg errichtet worden. Hehl hatte sich im Rahmen eines Wettbewerbes gegen 13 andere Architekten durchgesetzt.

Der Grundstein für das Harburger Rathaus wurde im Juli 1890 gelegt. Am 3. Oktober 1892 waren die Bauarbeiten beendet. Im selben Monat fand die Einweihung durch den damals amtierenden Oberbürgermeister Julius Ludowieg statt. Es ist der dritte Rathausstandort in der Stadtgeschichte. Das erste Rathaus war 1733 an der Harburger Schloßstraße eingeweiht worden. Das zweite Rathaus stand ab 1830 am Sand an der Stelle, an der heute die Haspa steht.

Das heutige Rathaus wurde, wie auch heute viele Bauprojekte, teurer als gedacht. Statt 300.000 Mark kostete das der Backsteinbau am Ende 544.200 Mark. Schon wenige Jahre später platzte es aus allen Nähten. Deshalb wurde 1904 mit dem Bau eines Verwaltungsgebäudes für den Preis von 182.000 Mark. Die Backsteinfassade ist reich geschmückt an Schmuckelementen, die aus Sandstein bestehen. Dabei stechen die Allegorien Gerechtigkeit (Justitia) und Weisheit (Prudentia), die im ersten Stock die Fassade links und rechts oberhalb des Portals einrahmen. Auf dem Rathausplatz, so hatten es Pläne vorgesehen, sollte ein Kaiser Wilhelm-Denkmal errichtet werden.

Mit dem Wegfall der Eigenständigkeit Harburgs als Stadt am 1. April 1937 durch das Groß-Hamburg-Gesetz, hat das Rathaus seine Bedeutung nicht völlig verloren. Es ist immer noch Zentrum des politischen Lebens in Harburg. Dort hat der Bezirskamtsleiter sein Büro. Im Rathaus kommt im großen Saal die Bezirksversammlung zu ihren Sitzungen zusammen. Sie besteht aus 51 Mitgliedern, die alle fünf Jahre gewählt werden. Aktuell sind Abgeordnete der SPD, CDU, der Grünen, der Linken, der Alternative für Deutschland und der FDP als gewählte, und Abgeordnete der Neuen Liberalen, die durch Austritte aus anderen Fraktionen zusammen gekommen sind, in der Bezirksversammlung vertreten. Auch mehrere politische Ausschüsse tagen im Rathaus.

Ab Ende November dient das Harburger Rathaus als Kulisse für den Weihnachtsmarkt, der auf dem Rathausplatz stattfindet. Der von alten Bäumen und dem illuminierten Rathaus umrahmte Platz erzeugt eine ganz besondere Atmosphäre, die die Harburger und die Studenten der Technischen Universität schätzen. Der Weihnachtsmarkt zieht auch Besucher aus der Umgebung an. Auch zahlreiche andere Veranstaltungen finden über das Jahr vor oder im Rathaus statt.

14. März 1888 Die städtischen Kollegien aus Magistrat und Bürgervorstehern beschließen die Bau eines neuen Rathauses. Vorgabe ist es, das Gebäude im stil der flämischen Renaissance zu bauen. Kurz darauf gibt es einen Wettbewerb, an dem 14 Architekten teilnehmen.

22. Oktober 1888 Der Architekt Prof. Christoph Hehl (1847 - 1911) gewinnt den Wettbewerb. Sein Entwurf soll umgesetzt werden.

17. Juli 1890 Der Grundstein, der auf der Oberseite das Harburger Wappen trägt, wird gelegt.

10. Oktober 1892 Der Umzug der Behördenmitarbeiter in das neue Rathaus ist abgeschlossen. Die Inneneinrichtung wurde von Harburger Familien finanziert. Noch heute stehen die Namen der Spender auf gravierten Plaketten, die beispielsweise an dem Treppengeländer angebracht sind.

15. Oktober 1892 Oberbürgermeister Julius Ludowieg eröffnet auf einer Sondersitzung der städtischen Kollegien im großen Sitzungssall das neue Harburger Rathaus. Es gibt ein Festprogramm und am Nachmittag Besichtigungen des Rathauses für die Bevölkerung, die vom Oberbürgermeister und dem Architekten geführt werden. Am abend gibt es ein Feuerwerk.

1893 Das Rathaus wird nach bereits einem Jahr zu klein. Erste Büros müssen ausgelagert werden. Als Konsequenz wird 1905 ein Verwaltungsgebäude an der Marienstraße eröffnet. Kostenpunkt für den Verwaltungsbau: 182.000 Mark.

1. Juli 1927 Harburg und Wilhelmsburg werden zu einer Gemeinde. Der Sitz des Magistrats wird das Harburger Rathaus.

11. März 1933 SA- und SS-Männer dringen in das Harburger Rathaus ein und zwingen den SPD-Bürgermeister Walter Dudek mit Waffengewalt es zu verlassen. Der am 11. Oktober 1890 in Altenburg in Thüringen geborene Sozialdemokrat war 1925 zum Oberbürgermeister Harburgs gewähllt worden. Während des Krieges war Dudek aktiv im Widerstand. Er wurde im Rahmen der Racheaktionen nach dem Attentat auf Adolf Hitler, das am 20. Juli 1944 scheiterte, verhaftet. Dudek überlebte den Krieg. Bereits 1945 wurde er Kreisdirektor für Harburg-Wilhelmsburg. Bis 1954 gehörte er den Bürgerschaft an. Walter Dudek starb am 1. Dezember 1976 in Hamburg.

4. Oktober 1933 auf dem Rathausplatz wird ein Bombenmahnmal aufgestellt. Es ist Teil der nationalsozialistischen Propaganda.

Am 11. November 1944 wurde das Rathaus bei einem der vielen Bombenangriffe schwer getroffen. Der Südflügel, das Dach und auch der Dachreiter, der sich wie ein Turm über dem Portal erhob, wurden zerstört. 1951 begann der Wiederaufbau. Leider wurde damals die Zweckmäßigkeit in den Vordergrund gestellt. Das galt sowohl für den Innenausbau, wie auch für die Fassade. Erst mit dem Umbau fand die Rathausuhr ihren heutigen Platz. Sie wurde 1895 von der Firma Korfhage und Söhne in Buer gebaut. Der Uhrenturm, der sich ursprünglich über dem Rathausportal erhob, wurde nicht wieder aufgebaut.

3. September 1949 Der Sitzungssaal ist wieder hergestellt. Die Bauzeit betrug drei Jahre.

10. Oktober 1949 Der Grundstein für den Wiederaufbau des zerstörten Südflügeles wird gelegt.

16. Februar 1950 Richtfest des wieder aufgebauten Südflügels.

15. März 1951 Der Südflügel ist fertig. Er ist nicht so reichhaltig verziert, wie der Vorgänger. Noch heute sieht man die Unterschiede an den beiden Flügeln des Harburger Rathauses.

1992 Zum 100. Geburtstag konnten elf fehlende Obelisken durch Geldspenden von Harburgern und hier ansässigen Firmen ersetzt werden. Insgesamt wurden 150.000 Mark dafür aufgebracht. Sie waren bei dem ein Jahr nach Kriegsende begonnenen Wiederaufbau aus Sicherheitsgründen abgebaut und eingelagert worden. Dabei gingen sie verloren. 

30. August 2004 Im Rahmen des Projektes "Hamburg leuchtet" wird das Rathaus auf Initiative des damaligen kulturpolitischen Sprechers der CDU, Karl-Heinz Ehlers, nach einem Konzept des Lichtkünstlers Michael Batz illuminiert. Unterstützt wird das Projekt von Elektro-Meyer und die  Adalbert-Zajadacz-Stiftung, die mehr als 30.000 Euro zusteuert.

23. September 2009 Nach 114 Jahren werden die beiden 1895 von dem Industriellen Heinrich Traun gestifteten Masten abgesägt, weil das Holz morsch geworden waren. Sie wurden ersetzt und die Spitzen aus Metall restauriert. Der Harburg Heinrich TZraun Besitzer der Harburger Gummi-Kamm-Companie und galt als besonders sozial gegenüber seinen Angestellten. Dazu war er Bürgerschaftsabgeordneter und, für knapp sieben Jahre, bis 1908 Senator in Hamburg. 1909 starb er im Alter von 71 Jahren.

10. Oktober 2009 Für weltweite Aufmerksamkeit sorgt der japanische Künstler Tatzu Nishi, der ein Gerüst vor das Rathaus baute und in 20 Metern Höhe ein Wohnzimmer installierte, das auf der Stirnseite als Wand die Rathausuhr mit den beiden daneben angebrachten Skulpturen hatte. Das Projekt wurde zum zehnjährigen Bestehen des Harburger Kunstvereins m Rahmen der Aktion "10° Kunst. Harburger Berge" umgesetzt.

10. Juni 2011 Das Rathaus bekommt zwei zusätzliche Masten vor die Tür, damit neben der Hamburg- und Deutschland- auch die Europaflagge aufgezogen werden kann. Der vierte Mast ist frei und steht wegen der Optik dort. Die beiden neuen Sockel sind deutlich schmuckloser, als die beiden 1885 aufgestellten.