Monet tarinat kiertävät karkkikeinon keksimisestä joulun uskonnollisena symbolina. Makeinen ilmestyi kuitenkin nykyisessä raidallisessa ja koukussa olevassa muodossaan vasta 20 -luvun alussa. Karkkiruokon ensimmäinen inkarnaatio oli suora valkoinen sauva, joka keksittiin ensimmäisen kerran 17 -luvulla joulukuusien koristeluun.
Suosittu legenda väittää, että karkkien valmistaja loi karkkikappaleen muistuttamaan Jeesukselle “J” tai toisella tavalla paimenen petosta. Valkoisen karkin sanotaan symboloivan Jeesuksen puhtautta tai neitsyen syntymää. Kolme pientä punaista raitaa muistuttavat ruoskimisesta, jonka Kristus sai ennen ristiinnaulitsemistaan, ja suuri yksittäinen raita on verta, jonka hän vuodatti. Piparmintun maku on samanlainen kuin iisopin niminen yrtti, jota esitetään Vanhassa testamentissa kuvatuissa puhdistusrituaaleissa.
Vaikka karkkikeppi pitää näitä konnotaatioita monille kristityille, ne eivät olleet alkuperäinen inspiraatio lomaherkulle. Se oli alun perin yksinkertainen koriste joulukuuseille. Vuonna 1670 Kölnin tuomiokirkon kuoromestarilla oli ajatus taivuttaa karkki paimenen roistojen muotoon uskonnollisen merkityksen lisäämiseksi ja jakoi herkut lapsille messun aikana. Lähes 200 vuoden ajan karkkikeppi oli valkoinen ja maustettu vain sokerin kanssa.
Karkki säilyi puhtaana valkoisena 1920-luvulle asti, jolloin konditori Bob McCormick, Albany, Georgia, lisäsi tunnetut punaiset raidat. Punaraitaiset piparminttukaramellit ilmestyivät ensimmäisen kerran 19-luvun puolivälissä Ruotsin Grannan kaupungissa, ja McCormick saattoi olla innoittamana näistä herkuista. Punaiset ja valkoiset karkkikepit kierrettiin aluksi käsin, ja prosessi mekanisoitiin 1950-luvulla.