Dospelé sivé veľryby kŕmia predovšetkým drobnými kôrovcami nazývanými Krill a ďalšie malé bezstavovce ako amfiPods a copepods . Jedia tiež nejaké malé ryby.
Na nájdenie ich jedla, sivé veľryby používajú techniku s názvom bahen-plugging . Zberali veľké množstvo sedimentu z dna oceánu, pomocou svojich tanierov Baleen na odfiltrovanie potravinových častíc a vylúčenie bahna a vody.