Veľký biely žralok je pelagický druh, čo znamená, že žije v otvorenom oceáne, ale často sa priblíži k kŕmeniu. Niektoré z oblastí, v ktorých sa bežne nachádzajú veľké biele žraloky, zahŕňajú:
- Tichý oceán, najmä pri pobreží Kalifornie, Oregon, Washington, Havaj, Austrália, Nový Zéland a Japonsko
- Atlantický oceán, najmä pri pobreží Massachusetts, New York, Severná Karolína, Južná Karolína, Florida, Gruzínsko a Južná Afrika
- Indický oceán, najmä pri pobreží Južnej Afriky, Mozambiku, Madagaskaru a Austrálie
Habitát Veľkého bieleho žraloka zahŕňa rôzne prostredie, od lesov rias a piesočnatých pláží až po hlboké pobrežné vody. Nachádzajú sa v hĺbkach až do 3 900 stôp (1 200 metrov), ale najčastejšie sa vyskytujú v hĺbkach menej ako 1 640 stôp (500 metrov).
Skvelé biele žraloky sú osamelými lovcami a vo veľkom počte sa nezhromažďujú, s výnimkou obdobia párenia. Zvyčajne cestujú sami alebo v malých skupinách po dvoch alebo troch.