Keskushermosto voidaan jakaa valkoiseksi ja harmaaksi aineeksi. Nämä kaksi divisioonaa ansaitsivat nimensä, koska niiden ulkonäkö eroaa ihmisen karkeasta anatomiasta. Valkoinen aine näyttää valkoiselta, koska siinä on suuria määriä myeliiniä, rasvaproteiinia, joka palvelee eristystoimintoa signaalin siirtämiseen. Harmaa aine näyttää harmaanruskealta hermosolujen ja kapillaarien läsnäolon sekä myeliinin suhteellisen puutteen vuoksi. Valkoinen aine ja harmaa aine ovat erilaisia niiden ainesosien, toimintojen ja sijainnin vuoksi sekä aivoissa että selkäytimessä.
Valkoista ainetta kutsutaan joskus substantia albaksi. Se sisältää myelinoituja aksonikanavia, jotka yhdistävät aivojen ja selkäytimen harmaan aineen eri alueita. Nämä myelinoidut aksonit kuljettavat hermoimpulsseja neuronista toiseen. Myeliinin läsnäolo mahdollistaa hermosignaalien nopeamman siirtämisen.
Lisäksi valkoinen aine voidaan jakaa edelleen projektioihin, commissural -traktaateihin ja yhdistysrakenteisiin. Projisointikanavat kuljettavat hermosignaaleja kuorista muihin aivojen alueisiin tai aivoista muihin kehon kudoksiin. Commissural -traktaattien avulla vasen ja oikea aivopuolisko voivat kommunikoida. Yhdistystraktit kuljettavat hermosignaaleja aivokuoren lohkosta toiseen.
Harmaata ainetta kutsutaan joskus substantia griseaksi. Se sisältää pääasiassa solukehoja, dendriittejä ja synapsia. Muita harmaan aineen komponentteja ovat neuropil, gliasolut ja kapillaarit. Neuropil on kollektiivinen termi dendriiteille ja aksoneille, ja se voi olla myelinoitu tai myelinoimaton, kun taas gliasolut viittaavat astrosyyteihin ja oligodendrosyyteihin. Toisin kuin valkoinen aine, joka palvelee pääasiassa hermosignaalien lähettämistä, harmaat aineet ovat sellaisia, joissa tällaisia signaaleja syntyy ja käsitellään.
Valkoinen ja harmaa aine eroavat myös jakautumisen suhteen. Aivoissa harmaa aine löytyy aivojen ja aivokuorten pinnalta. Sitä esiintyy myös aivojen syvemmissä osissa, erityisesti basaaliganglioissa, talamuksessa, hypotalamuksessa ja erilaisissa subtalamuksen ytimissä. Pikkuaivojen syvemmissä osissa harmaata ainetta esiintyy hammas-, pallomaisena, emboliformisena ja fastigiaalisena ytimenä, kun taas aivorungon syvemmissä osissa se esiintyy substantiivina sekä punaisena, olivaarisena ja kallona hermon ytimet. Harmaata ainetta esiintyy myös selkäytimen etu-, sivu- ja takasarvissa.
Sitä vastoin valkoinen aine muodostaa suuren osan syvemmästä aivoaineesta ja selkäytimen pinnallisista kerroksista. Se yhdistää aivokuoren aivojen syvempiin osiin ja yhdistää kaksi aivopuoliskoa rakenteen, nimeltään corpus callosum, kautta. Pikkuaivojen syvemmissä osissa sijaitsevaa valkoista ainetta kutsutaan joskus arbor vitaeksi. Selkäytimessä valkoinen aine on pinnallisempaa kuin harmaa aine ja ympäröi eri sarvia.
Valkoinen ja harmaa aine eroavat toisistaan myös aivojen tilavuuden ja energiankulutuksen osalta. Vaikka valkoinen aine muodostaa noin 60% aivojen tilavuudesta, harmaa aine muodostaa loput 40%. Harmaa aine kuluttaa kuitenkin enemmän energiaa ja kuluttaa noin 94% aivoihin menevästä hapesta.