Młodemu człowiekowi nie do końca odpowiadało życie mnichów, z wszelkimi narzucanymi rytuałami. Od najmłodszych lat odznaczał się wyjątkową indywidualnością. Udał się do klasztoru położonego w pobliżu Morza Martwego i zdobył zezwolenie opata, by zamieszkać w grocie skalnej, jako pustelnik. Klasztor odwiedzał tylko czasami, by uczestniczyć we wspólnej liturgii.

Po kilku latach postanowił powrócić do Jerozolimy, tam również zamieszkał w skalnej grocie. Szybko zyskał wielu zwolenników, uważających się za jego uczniów i zamieszkujących pobliskie groty. Liczba mnichów podobno doszła do kilkuset, założony został „Wielki Klasztor - Ławrę - centralnie usytuowany kościół, otoczony ogromną ilością pojedynczych cel. Święty Saba przyjął świecenia kapłańskie i w następnych latach zbudował siedem dużych monasterów, osiem mniejszych i trzy hospicja dla pielgrzymów, w których osobiście wygłaszał nauki. Do najsławniejszych należą osady mnisze w Emaus i Gadara.

Do klasztorów zakładanych przez Świętego Sabę mogły przynależeć osoby różnych narodowości i języków. Każda kolonia miała swoją kaplicę, gdzie odprawiano msze w narodowym języku, oraz odrębnego przełożonego. W niedziele i święta wszyscy gromadzili się w centralnym kościele, aby brać udział we wspólnym nabożeństwie, odprawianym w języku greckim.

Święty Saba zyskał też uznanie jako patron kupców i rzemieślników, których otoczył opieką, broniąc przed zbyt wysokimi podatkami urzędników cesarskich. Stanął też w obronie Samarytan, bezlitośnie wtedy wyniszczanych. Zapamiętany został jako przeciwnik heretyków - aktywnie uczestniczył w walce z herezjami Nestoriusza, Orygenesa, a także monofizycką, wielokrotnie odbywając podróże do Konstantynopola w tej sprawie. Gdy cesarz Justyn I miał zamiar mianować monofizytę patriarchą Jerozolimy, Saba tak gorliwie zaprotestował, że intruz zmuszony był zrzec się biskupstwa.

Zmarł w wieku 93 lat w klasztorze Mar Saba, gdzie przez długi czas czczono jego relikwie. Kult Świętego szybko rozprzestrzenił się na całe cesarstwo. W Rzymie wystawiano mu kościół na Małym Awentynie.