Hierarkinen tietokantamalli on yksi ensimmäisistä tietokantamalleista, joka sai laajan hyväksynnän, koska se kykenee yhdistämään tietyn osan toiseen. Tässä mallissa, joka on rakenteeltaan puumainen, on olemassa useita hierarkiatasoja, jotka alkavat pääsolmusta ja johtavat alasolmuun. Jos esimerkiksi pääsolmu on “Nimi”, alisolmu olisi nimiluettelo ja seuraava taso olisi nimenomaisia tietoja. Vaikka hierarkkinen tietokantamalli on joustava, kun se julkaistiin ensimmäisen kerran, sitä käytetään harvoin nykyaikaisissa tietokannoissa, koska nykyaikaisilla tietokannoilla on vahvemmat suhteiden ryhmittelykyvyt.
Hierarkisessa tietokantamallissa kaikki liittyy hierarkiaan. Tietokannan ylätasolla on muutamia yleisiä pääsolmuja. Kun käyttäjä valitsee solmun, tarkempi solmu tulee näkyviin, ja kun käyttäjä napsauttaa jotakin näistä solmuista, näytetään vielä tarkemmat tiedot. Jos esimerkiksi ylin hierarkia on “Harjoitus”, seuraavat solmut voivat olla “Painonnosto” ja “Sydän”, ja sitten voi olla lihasryhmiä ensimmäiselle ja juoksumenetelmät jälkimmäiselle ja sitten vielä tarkempaa tietoa sen jälkeen.
IBM: n 1960 -luvulla luoma hierarkkinen tietokantamalli on ensimmäinen tietokantamalli, joka on koskaan otettu käyttöön. Tietokantojen alkuaikoina tätä pidettiin erittäin joustavana, koska tietokannan suunnittelijat pystyivät helposti näyttämään suhteet eri solmujen välillä ja käyttäjät voivat helposti syöttää tietoja. Hierarkinen tietokanta tuli tunnetuksi yksi monelle -tietokanta, koska yksi solmu liittyy moniin muihin.
Kun relaatiotietokanta ilmestyi, hierarkinen tietokantamalli menetti suosionsa. Tämä johtuu siitä, että suhteelliseen tietokantaan verrattuna hierarkkinen tietokanta on joustamaton. Se voi yhdistää vain yhden solmun moniin muihin, kun taas relaatiomalli voi yhdistää useita solmuja useisiin muihin solmuihin. Uudemmat versiot hierarkkisesta tietokannasta antavat suunnittelijoille mahdollisuuden yhdistää yksi vanhempi solmu useisiin muihin solmuihin, mutta tätä on vaikeampi ohjelmoida kuin relaatiotietokantaa.
Vaikka sitä ei käytetä useimmissa nykyaikaisissa tietokannoissa, joissakin sovelluksissa käytetään edelleen hierarkkista tietokantamallia vuodesta 2011. Palvelimille, jotka on tehty pitämään tietoja pitkiä aikoja ilman, että tietoja kosketaan, löytyy yleensä hierarkkinen tietokanta, koska tietokantamalli, jota käytettiin palvelimen luomisessa. Toinen syy käyttää hierarkkista mallia on se, että kun se yhdistetään yksinkertaiseen tietokantaan, joka sisältää vain muutaman tietueen, ohjelmointi vie vähemmän aikaa.