Ilmaus “väärän puun haukkuminen” näyttää olevan alkuperältään amerikkalainen ilmaisu, vaikka tarkasta ensimmäisestä käytöstä on jonkin verran keskustelua. Yleisenä ilmaisuna tai tunteena se on varmasti peräisin perinteestä käyttää koulutettuja koiria riistan metsästämiseen, kuten kaneja, kettuja tai oravia. Koira, joka haukkui väärää puuta, olisi sellainen, joka uskoo riistan olevan jossain, missä se ei ole; samoin henkilö, joka näin tekee, olisi virheellinen joissakin olettamuksissaan tai toimissaan. Lauseen ensimmäinen painettu käyttö näyttää olevan vuodelta 1832 James Kirk Pauldingin romaanissa Westward Ho !.
Yleisesti ottaen lause “väärän puun haukkuminen” toimii lähinnä vertauskuvana henkilölle, joka toimii virheellisellä oletuksella, joka perustuu metsästyskoirien toimintaan. Koiria koulutettiin usein seuraamaan ja harjoittamaan erilaisia riistoja, kuten kaneja ja oravia. Nämä koirat ajoivat tyypillisesti eläimen puuhun tai ylös, jolloin koira seisoi puun juurella ja haukkui osoittamaan, minkä puun metsästäjät voisivat löytää eläimen. Jos eläin olisi kuitenkin hyppänyt toiselle puulle, mutta koira pysyisi, se haukottaisi kirjaimellisesti väärää puuta.
Tätä ajatusta laajennettiin sitten vertauskuvallisesti kuvaamaan henkilöä, joka “haukkui väärää puuta” etsimällä virheelliseen logiikkaan tai ymmärrykseen perustuvaa ajatusta. Henkilö, joka etsii korruptiota valtion virastosta, jossa sitä ei ole, leimataan “haukkumaan väärää puuta”. Termiä voidaan soveltaa myös useisiin eri asetuksiin, kuten henkilöön, joka flirttailee kiinnostumattoman henkilön kanssa, joku lähettää hakemuksia yritykselle, joka ei ole palkkaamassa, tai joku, joka tutkii vääriä tietoja.
Varhaisin “väärän puun haukuttamisen” käyttö painossa näyttää olevan vuonna 1832 julkaistu romaani nimeltä Westward Ho! Amerikkalainen kirjailija James Kirk Paulding. Oliko lause jo yleisessä käytössä ennen tätä, on vaikea määrittää, mutta siitä näytti tulleen melko suosittu painetussa muodossa myöhemmin. Lukuisat tekstit, mukaan lukien kirjat, aikakauslehdet ja jopa transkriptiot Yhdysvaltain edustajainhuoneesta, osoittavat, että ilmausta on käytetty Pauldingin romaanin jälkeisinä vuosina. On todennäköistä, että ”väärän puun haukkuminen” oli jo yleinen tai puhekielinen lause ennen Pauldingin käyttöä, mutta käyttö kirjallisessa teoksessa lisäsi sen suosiota.