A Biblia egyik legkorábbi említése a merev nyakról a 2Mózes 32:9-ben található, ahol Isten azt mondja Mózesnek:"Láttam ezt a népet, és íme, keménynyakú nép." Ebben az esetben Isten az izraeliták döntésére utal, hogy aranyborjút készítenek és imádnak, annak ellenére, hogy figyelmeztették őket, hogy ne alkossanak hamis képeket vagy bálványokat.
Ezt a kifejezést az Ószövetség többször is említi, hogy kifejezze nemtetszését, amikor egyének vagy csoportok ellenállást tanúsítanak vagy figyelmen kívül hagyják Isten parancsolatait. Például az 5Mózes 9:6-7-ben Mózes azt mondja az izraelitáknak:"Értsétek meg, hogy nem a ti igazságotok miatt adja neked az Úr, a te Istened, hogy birtokba vegyétek ezt a jó földet, mert keménynyakú nép vagytok." Itt Isten arra emlékezteti őket, hogy sikerük és az ígéret földjének birtoklása nem saját érdemeiknek köszönhető, hanem lázadó természetük ellenére.
Az Újszövetségben a kifejezés szó szerinti és átvitt értelemben is szerepel. Például a Márk 9:18-ban egy epilepsziával küszködő fiút írnak le, akinek „néma szelleme” volt, és a földre vetette magát és a fogát csikorgatta. A kifejezés ebben az összefüggésben a fiú testi betegségére utal.
Összességében a „keménynyakú” kifejezés eredete elsősorban bibliai eredetű. Használata azonban később nem vallási összefüggésekre is kiterjedt, ma pedig általában a makacsság vagy az erős ellenállás leírására használják.