Tirpitz sa narodil v Küstrine (dnes Kostrzyn nad Odrą, Poľsko) v provincii Brandenburg, Prusko. V roku 1865 sa pripojil k pruskému námorníctvu a bol účastníkom francúzsko-pruskej vojny v rokoch 1870-71. Po vojne zastával rôzne štábne funkcie a velenia a postupoval v hodnosti.
V roku 1897 bol Tirpitz vymenovaný za štátneho tajomníka cisárskeho námorníctva , nástupca po admirálovi Friedrichovi von Hollmannovi. Okamžite začal realizovať svoje ambiciózne plány na rozšírenie nemeckého námorníctva, pretože veril, že silné námorníctvo je nevyhnutné pre nemeckú národnú bezpečnosť a ekonomickú prosperitu.
Pod Tirpitzovým vedením nemecké námorníctvo rýchlo rástlo. Zvýšil sa počet bojových lodí a krížnikov a zaviedli sa nové typy vojnových lodí, ako sú ponorky a torpédoborce. Tirpitz tiež dohliadal na výstavbu siete námorných základní a lodeníc.
Námorný expanzný program Tirpitz zaťažil nemecké zdroje a vyvolal napätie s Britániou, ktorá sa cítila ohrozená rastom nemeckého námorníctva. V roku 1906 vypustila Británia na trh Dreadnought, revolučný nový typ bojovej lode, ktorý spôsobil, že všetky existujúce bojové lode boli zastarané. Tirpitz reagoval nariadením výstavby novej triedy bojových lodí, triedy Nassau, ktoré boli vyzbrojené silnejšími delami a hrubším pancierom ako Dreadnought.
Anglo-nemecké námorné preteky v zbrojení pokračovali až do vypuknutia prvej svetovej vojny v roku 1914. Nemecké námorníctvo pod Tirpitzovým velením zohralo významnú úlohu vo vojne, ale nakoniec bolo kráľovským námorníctvom porazené.
Po vojne Tirpitz odišiel z námorníctva a vstúpil do politiky. V rokoch 1924 až 1928 pôsobil ako poslanec Reichstagu a bol hlasným kritikom Weimarskej republiky. Tirpitz zomrel v bavorskom Ebenhausene v roku 1930.
Tirpitz zostáva kontroverznou postavou. Niektorí ho obdivujú pre jeho predvídavosť a odhodlanie pri budovaní nemeckého námorníctva, ale kritizujú ho aj za jeho úlohu v anglo-nemeckých námorných pretekoch v zbrojení a vypuknutí prvej svetovej vojny.