Każdy zakon bierze swoją nazwę albo od miejsca, albo od świętego – pisze Jan Baconthorpe, czternastowieczny angielski pisarz karmelitański – od miejsca, tak jak cystersi, których nazwa pochodzi od Citeaux lub nasz zakon, który nazwę swą wywodzi od Karmelu.
Karmel jest łańcuchem górskim poprzecinanym licznymi wąwozami i dolinami, ciągnącym się na przestrzeni około 39 kilometrów, a wznoszącym się na wysokość 546 metrów n.p.m. Stromymi zboczami opada do Morza Śródziemnego tworząc przylądek koło Zatoki Haifa w Izraelu. Karmel (po hebrajsku Winnica Boga lub Ogród Boży) od niepamiętnych czasów był miejscem kultu. Ze względu na swoje piękno był podziwiany przez proroka Izajasza (Iz 35,2) Chwałą Libanu ją obdarzono, ozdobą Karmelu i Saronu oraz autora Pieśni nad Pieśniami (PnP 7,5) Głowa Twoja jak Karmel.
Pierwsi eremici chrześcijańscy osiedlili się w grotach góry Karmel około V wieku naszej ery, natomiast pierwsze konkretne wzmianki historyczne na temat pustelników zamieszkujących górę pochodzą z czasów średniowiecznych.
Ważną rolę w początkach tworzenia wspólnoty odegrali św. Bertold z Kalabrii i Aymerik de Melefaid , który będąc patriarchą Antiochii ustanowił św. Bertolda pierwszym przeorem wspólnoty pustelników. Celem Bertolda było stworzenie wspólnoty pustelniczej, kontemplacyjnej . Między rokiem 1206 a 1214 poprosili oni św. Alberta, łacińskiego patriarchę Jerozolimy, aby dał im regułę postępowania zgodną ze sposobem życia, jaki prowadzą. Ta krótka reguła, zwana „formułą życia” stała się zaczątkiem Reguły Karmelitańskiej. Została zatwierdzona przez papieża Honoriusza III w 1226 roku.
Początkowo wydawało się, że zakon pozostanie w Palestynie, gdzie się narodził. Sytuacja polityczna Ziemi Świętej zmieniła się jednak bardzo szybko i na skutek krwawych prześladowań ze strony Saracenów zakonnicy musieli opuścić Górę Karmel. Ci, którzy pozostali, zginęli śmiercią męczeńską. Klasztor na Górze Karmel spłonął. Pozostali przy życiu karmelici przenieśli się na Cypr, a następnie do Europy Zachodniej. Wtedy też „formuła życia” została zaadaptowana do nowych warunków życia i zatwierdzona przez papieża Innocentego IV w 1247 roku.
