Osana keskushermostoa harmaa aine koostuu solukehoista, erityisesti neuronien solukehoista, neurofiilistä, gliasoluista ja dendriiteistä. Toisin kuin valkoinen aine, tämäntyyppinen aivoaine löytyy aivojen alueilta, joihin liittyy lihasten hallintaa. Se löytyy myös aivojen alueista, jotka ohjaavat henkilön käsitystä, kuten miten asiat nähdään tai kuullaan tai muistojen muodostumista. Myös harmaa aine vaikuttaa suuresti puheeseen ja tunteisiin.
Harmaa aine sijaitsee useilla aivojen alueilla. Sitä löytyy aivokuoren ja pikkuaivojen pinnoilta. Tämän tyyppistä ainetta löytyy myös syvältä aivoista. Selkäytimen keskeltä löytyy sekä harmaata että valkoista ainetta, mutta harmaa on vallitseva.
Harmaan aineen ensisijainen tehtävä on kuljettaa harmaatainesoluista ja aistielimistä peräisin olevaa aistitietoa. Tämä tieto välitetään sitten aivojen alueille, jotka käsittelevät aistitietoa. Älykkyys ja taito johtuvat usein tästä aivoaineesta, lähinnä siksi, että se kattaa niin suuren osan aivoista. Lisäksi tutkimukset ovat osoittaneet, että jokaisella ihmisellä on eri määrä ja tiheys tätä aivoaineita, usein osoittamalla korkeampia pitoisuuksia alueilla, jotka liittyvät tiettyihin älyllisiin näkökohtiin tai taitojen hallintaan.
Aiemmat tutkimukset viittasivat siihen, että ihmisen aivojen koolla ei ole mitään tekemistä älykkyyden kanssa. Vaikka isommat aivot olivat läsnä kohteilla, joilla oli korkeampi älykkyysosamäärä (IQ), lisääntynyt IQ ei ollut riittävän merkittävä. Uusimmat tutkimukset ovat osoittaneet, että älykkyysosamittaus voi aktivoida useita harmaata ainetta alueilla aivoissa. Tämä tarkoittaa sitä, että vaikka henkilö voi osoittaa vahvuuksia ja heikkouksia tietyillä älykkyyden aloilla, sekä vahvuudet että heikkoudet johtuvat yhdistetystä tilavuudesta ja aktiivisuustasosta koko aivojen ainemallin kautta.
Vaikka suuret harmaan aineen pitoisuudet voivat merkitä älykkyyttä ja taitoa, pienet pitoisuudet ja puutteet voivat aiheuttaa ongelmia. Esimerkiksi vanhuksilla tutkimukset ovat osoittaneet, että lyhytaikainen muisti vaikuttaa, kun harmaan aineen määrä vähenee ikääntymisen myötä. Tutkimukset ovat myös osoittaneet, että harmaan aineen tilavuuden erot voivat liittyä myös tiettyihin psykologisiin häiriöihin, kuten kaksisuuntaiseen mielialahäiriöön. Joidenkin psyykkisten häiriöiden osalta todisteet osoittavat, että potilailla voi olla harmaan aineen puutetta vasemman parietaalilohkon alueella. Vakavuus ja kesto määräytyvät kuitenkin usein aivojen oikean etuosan gyrus -osan aineen tilavuuden mukaan.