Άφησε τα αυτοκρατορικά παλάτια της Κωνσταντινουπόλεως και κατέβηκε στον Άθωνα ντυμένος με κουρέλια ζητιάνου, αγνώριστος ανάμεσα στους ασκητές. Για στρώμα είχε το χώμα και για προσκέφαλο μία πέτρα, εκεί όπου αργότερα θα ξανάχτιζε τη μονή του Ξηροποτάμου. Ο Όσιος Παύλος έζησε τον δέκατο αιώνα μετά Χριστόν και ήταν γόνος ευσεβών βυζαντινών αρχόντων, οι οποίοι του χάρισαν την καλύτερη μόρφωση της εποχής εκείνης.

Από μικρός αγάπησε την αρετή και ονομάστηκε «ύπατος των φιλοσόφων» για τη βαθιά του παιδεία και τη σοφία του. Όμως η γνώση και οι κοσμικές τιμές δεν τον γέμιζαν, και η καρδιά του ζητούσε τον αληθινό Νυμφίο της ψυχής. Έτσι αντάλλαξε τα πολυτελή ενδύματα με ράκη, εγκατέλειψε κρυφά τη βασιλεύουσα και έφτασε στο αγιώνυμο Όρος ως άγνωστος προσκυνητής.

Κανείς δεν αναγνώρισε ποιος ήταν, και αυτός φρόντιζε να κρύβει επιμελώς την καταγωγή και τη μάθησή του. Κοντά στα ερείπια ενός παλαιού μοναστηρίου, αφιερωμένου στους Αγίους Σαράντα Μάρτυρες, έστησε μικρή ασκητική καλύβη και άρχισε αυστηρό αγώνα νηστείας και προσευχής. Η ταπείνωσή του ήταν τόσο γνήσια ώστε ποτέ δεν φανέρωσε σε κανέναν τα συγγραφικά του χαρίσματα και τη θεολογική του παιδεία.

Η φήμη όμως της αυστηρής του ζωής δεν άργησε να απλωθεί σε ολόκληρο το Άγιον Όρος, και οι πατέρες τον ονόμασαν Παύλο Ξηροποταμινό από το ρέμα της περιοχής. Τη μοναχική κουρά την έλαβε από έναν ερημίτη ονόματι Κοσμά, ο οποίος του έδωσε το νέο όνομα του Παύλου. Εκείνη την εποχή ανέβηκε στον αυτοκρατορικό θρόνο ο Ρωμανός, συγγενής του οσίου, και θέλησε να συναντήσει τον περίφημο ασκητή του Άθω.

Μέσω του Πρώτου του Αγίου Όρους ζήτησε να έρθει ο όσιος στην Κωνσταντινούπολη και ετοίμασε λαμπρή υποδοχή για χάρη του. Ο ταπεινός Παύλος εμφανίστηκε στο παλάτι κρατώντας τον σταυρό και φορώντας σχισμένα ράσα μέσα στη χλιδή της αυτοκρατορικής αυλής. Με την επίθεση του χεριού του θεράπευσε θαυματουργικά τον βαριά άρρωστο αυτοκράτορα και επιβεβαίωσε τη φήμη του ως εκλεκτού του Θεού.

Η ματαιότητα της αυλικής ζωής όμως δεν τον κράτησε ούτε στιγμή κοντά στους θρόνους και τα αξιώματα. Επέστρεψε γρήγορα στο Άγιον Όρος, αφού ζήτησε από τον αυτοκράτορα μία μόνη χάρη, την ανοικοδόμηση της μονής Ξηροποτάμου. Ο Ρωμανός χάρισε τότε στον όσιο και ένα τίμιο τεμάχιο από το Ξύλο του Σταυρού του Κυρίου.

Το ιερό αυτό τεμάχιο εναποτέθηκε στο άγιο βήμα του ανακαινισμένου καθολικού της μονής ως πολύτιμος θησαυρός για τους μοναχούς. Σύντομα το Ξηροπόταμον γέμισε από πλήθος αδελφών, οι οποίοι επιθυμούσαν να τεθούν κάτω από την πνευματική καθοδήγηση του αγίου ασκητή. Ο πόθος όμως για μεγαλύτερη ησυχία οδήγησε τον Παύλο να εμπιστευτεί τη διοίκηση σε έναν από τους πατέρες και να αποσυρθεί στα ερημικότερα μέρη του Άθω.

Η ησυχία του διαταράχθηκε και πάλι από τους μαθητές του, οι οποίοι δεν δέχονταν με κανέναν τρόπο να αποχωριστούν τον γέροντά τους. Τότε ο όσιος ζήτησε νέα οικονομική βοήθεια από τον αυτοκράτορα για να ανεγείρει δεύτερο μοναστήρι στους πρόποδες του ιερού βουνού. Έτσι ίδρυσε νέα μονή προς τιμήν του αγίου μεγαλομάρτυρος και τροπαιοφόρου Γεωργίου, γνωστή σήμερα ως μονή του Αγίου Παύλου.

Πρώτος ηγούμενος της νέας αδελφότητας έγινε ο ίδιος ο όσιος και μετέφερε εκεί άλλο ένα τεμάχιο από το Τίμιο Ξύλο του Σταυρού. Με τα δύο αυτά μοναστήρια ο Παύλος άφησε ανεξίτηλη σφραγίδα στην πνευματική ιστορία του Αγίου Όρους. Οι αδελφοί τον αγαπούσαν σαν πατέρα και διδάσκαλο, και έβλεπαν σ’ αυτόν τον αληθινό άνθρωπο του Θεού.

Ο Κύριος αποκάλυψε στον όσιο τον επικείμενο θάνατό του πολύ καιρό πριν φτάσει η ώρα της εξόδου του. Τότε ο Παύλος συγκάλεσε τους αδελφούς και των δύο μοναστηριών και τους έδωσε τις τελευταίες πατρικές του παραγγελίες. «Έχετε, τέκνα και αδελφοί, την αγάπη, την ευχή, την ταπείνωση και την υπακοή», τους είπε με δάκρυα και πατρική στοργή.

Όποιος μοναχός δεν έχει αυτές τις αρετές, τους εξήγησε, δεν αξίζει να λέγεται μοναχός αλλά κοσμικός άνθρωπος. Την ημέρα της κοιμήσεώς του ο όσιος φόρεσε τον μανδύα και διάβαζε ακατάπαυστα την ευχή του αγίου Ιωαννικίου, την οποία επαναλάμβανε σ’ όλη του τη ζωή. «Η ελπίς μου ο Πατήρ, καταφυγή μου ο Υιός, σκέπη μου το Πνεύμα το Άγιον, Τριάς Αγία, δόξα σοι.

» Έλαβε τα Άχραντα Μυστήρια του Χριστού και παρέδωσε ειρηνικά το πνεύμα του στα χέρια του Κυρίου. Είχε ζητήσει με διαθήκη να ταφεί το λείψανό του στη χερσόνησο της Πογγόσας, απέναντι από το Άγιον Όρος. Με θεία όμως οικονομία το πλοίο που μετέφερε το ιερό σκήνωμα οδηγήθηκε στις ακτές της βασιλεύουσας.