Presný pôvod termínu „deep learning“ nie je určený, ale niekoľko vplyvov pravdepodobne prispelo k jeho nárastu:
- Geoffrey Hintonov článok z roku 2006 o hlbokých neuronových sieťach pomohol popularizovať koncept.
- Výskumníci ako Yoshua Bengio používali termín často v raných 2000-tych rokoch.
- Niekteri lingvisté ho spojujú s myšlienkou „hlbokej štruktúry“ v kognitívnej psychológii.
- Objavil sa ako spôsob, ako odlíšiť viacvrstvové neuronové siete od plochších tradičných modelov strojového učenia.
- Pokrok v výpočtovom výkone, najmä GPU v koncoch 2000-tych, urobil tréning hlbších sietí praktickým.
Dnes „deep learning“ popisuje odvetvie strojového učenia zamerané na umelé neuronové siete s mnohymi skrytými vrstvami.