Sivé veľryby sa kŕmia predovšetkým malými kôrovca nazývané amfiPods ktoré žijú na dne oceánu. Tieto amfipody sú malé, o veľkosti zrnku ryže a tvoria väčšinu stravy sivej veľryby.
Tiež jedia:
* Ostatné malé bezstavovce: To môže zahŕňať malé krevety, červy a ďalšie kôrovce.
* Fish: Aj keď to nie je také bežné, sivé veľryby môžu občas jesť malé ryby, ktoré nachádzajú na morskom dne.
Na kŕmenie sivé veľryby používajú svoje taniere Baleen na odfiltrovanie vody a zachytenie malých bezstavovcov. Robia to tak, že saje vo veľkom množstve sedimentu a vody a potom vytlačia vodu cez svoje taniere Baleen a jedlo zanechajú za sebou.
Je zaujímavé, že sivé veľryby migrujú veľké vzdialenosti, aby našli svoje jedlo. Letné mesiace trávia kŕmením v chladných vodách bohatých na živiny v Arktíde a subarktike a potom migrujú na juh do teplejších vôd na rozmnožovanie v zime.