Järjestelmäteoria on yleensä tieteidenvälinen tutkimus monimutkaisista rakenteista, joita voi esiintyä luonnossa, yhteiskunnassa tai tieteessä. Esimerkit monimutkaisista rakenteista voivat vaihdella laajasti, ja niihin kuuluu kaikkea muurahaispesäkkeistä poliittisiin puolueisiin ja kieliin. Systeemiteoreetikot voivat analysoida, miten tällaiset järjestelmät muodostetaan, miten ne toimivat tai mikä on järjestelmän tarkoitus.
Järjestelmäteorian ala tuli esiin biologisten tutkimusten seurauksena. Luonnon ekologisten järjestelmien analyysin jälkeen järjestelmäteoreetikot soveltivat järjestelmien peruslogiikkaa ei-ekologiseen ilmiöön. Alan edelläkävijät, kuten unkarilainen tiedemies Bela H. Banathy, väittivät, että järjestelmän käsitteen selkeä määritelmä on olennainen osa minkä tahansa tieteen perustan luomista ja samalla sen kasvumahdollisuuksien määrittämistä.
Monet järjestelmäteoreetikot ovat yrittäneet kehittää yleisen teorian, joka selittäisi minkä tahansa kuviteltavissa olevan järjestelmän toiminnan. Tämä lähestymistapa selittäisi yhtä erilaisia järjestelmiä kuin mehiläispesä tai hallitus samojen yleisten periaatteiden ja lakien mukaisesti. Tällainen hypoteesi päättelee, että kaikissa järjestelmissä on peruslogiikka.
Akateemisessa kirjallisuudessa käydyn keskustelun perusteella siitä, mikä järjestelmä oikein on, on esitetty monia erilaisia lähestymistapoja systeemiteoriaan. Yleensä järjestelmän keskeiset ominaisuudet on tunnistettu yksittäisten osien välisenä suhteena kokonaisuuden muodostamiseksi. Tämä lähestymistapa määrittelee järjestelmän johdonmukaisuuden yhtenäisten suhteiden ja käyttäytymismallien mukaisesti, joka tunnetaan myös nimellä suljettu järjestelmä. Esimerkiksi muurahaispesäkkeen järjestelmä muodostuu sen jäsenten erityisten muurahaisten erilaisista käyttäytymismalleista. Nämä erilaiset käyttäytymismallit puolestaan liittyvät toisiinsa, jolloin saadaan käsitys järjestelmän yleisestä homogeenisuudesta, joka määritellään sen johdonmukaisen toiminnan perusteella.
Jotkut tutkijat vastustavat suljetun järjestelmän käsitettä avoimen järjestelmän käsitteellä. He väittävät, että minkä tahansa suljetun järjestelmän määrittelyyn liittyy vähennysvirhe, joka yksinkertaistaa järjestelmän luonnetta. Sitä vastoin avoimen järjestelmän teoreetikot korostavat, että monta kertaa järjestelmät voidaan määritellä sen perusteella, mitä ne sulkevat pois, toisin kuin ne sisältävät, tai että osia, joita ei pidetä osana järjestelmää, voidaan integroida siihen.
Käsitteet, kuten syntyminen, ovat myös tärkeä osa systeemiteoriaa. Emergence kuvaa ilmiötä, kuinka yksinkertainen joukko osien välisiä suhteita voi luoda jotain täysin heterogeenistä näille osille. Yleisiä esimerkkejä noususta ovat Internet ja osakemarkkinat.