Φορούσε τη στολή του διώκτη, μα κάτω από τον μανδύα του στρατιώτη έκρυβε καρδιά που έσωζε χριστιανούς από τα χέρια του ίδιου του αυτοκράτορα Ιουλιανού του Παραβάτη. Στάλθηκε μαζί με άλλους στρατιώτες να καταδιώξει και να θανατώσει τους πιστούς, όμως μυστικά γινόταν το χέρι της σωτηρίας τους. Υπηρετούσε στον ρωμαϊκό στρατό στα χρόνια του Ιουλιανού, εκείνου που αρνήθηκε τον Χριστό και προσπάθησε να ξαναφέρει την ειδωλολατρία.

Έξω φαινόταν αυστηρός εκτελεστής των διαταγών, μέσα όμως ζούσε ως κρυφός χριστιανός με βαθιά πίστη και αγάπη. Όσους κινδύνευαν τους ειδοποιούσε εγκαίρως να φύγουν, ώστε να γλιτώσουν από τη σύλληψη και τον θάνατο. Όσους είχαν ήδη πιαστεί, εκείνος έβρισκε τρόπο να τους ελευθερώσει και να τους οδηγήσει σε ασφαλή τόπο.

Δεν περιόριζε τη φιλανθρωπία του μόνο στους διωκόμενους αδελφούς, αλλά βοηθούσε κάθε άνθρωπο που είχε ανάγκη. Σε όποιον του ζητούσε στήριξη, έδινε ό,τι χρειαζόταν, με απλότητα και ταπεινή διάθεση. Η ζωή του ήταν στολισμένη με προσευχή, νηστεία, επισκέψεις σε αρρώστους και παρηγοριά σε όσους θλίβονταν.

Όταν ο αυτοκράτορας πληροφορήθηκε τη μυστική δράση του, διέταξε τη σύλληψή του και τη φυλάκισή του στην Κωνσταντινούπολη. Στα χρόνια τριακόσια εξήντα τρία μετά Χριστόν, ο ασεβής αυτοκράτορας σκοτώθηκε στον πόλεμο εναντίον των Περσών, αφήνοντας ελεύθερους τους φυλακισμένους χριστιανούς. Ο Άγιος Ιωάννης βγήκε από τη φυλακή και αφιέρωσε όλη την υπόλοιπη ζωή του στη διακονία του πλησίον με αγνότητα.

Συνέχισε να επισκέπτεται τους αρρώστους, να παρηγορεί τους θλιμμένους και να μοιράζεται με τους φτωχούς ό,τι μπορούσε να προσφέρει. Η καθημερινότητά του ήταν γεμάτη προσευχή και νηστεία, μέσα σε πνεύμα ταπείνωσης και ολόθερμης αγάπης για κάθε άνθρωπο. Έφτασε σε μεγάλη ηλικία και κοιμήθηκε εν ειρήνη, χωρίς όμως να μείνει γνωστή η ακριβής χρονολογία της κοιμήσεώς του.

Ενταφιάστηκε εκεί όπου έθαβαν τους ξένους και τους ταπεινούς, μακριά από τιμές και επίσημες εκδηλώσεις, όπως αρμόζει σε άγιο. Με τον καιρό ο τάφος του ξεχάστηκε και κανείς πια δεν θυμόταν τον τόπο της ταφής του ευλογημένου στρατιώτη. Κάποια ημέρα όμως ο ίδιος εμφανίστηκε σε μια ευλαβική γυναίκα και της φανέρωσε τα έργα της ζωής του.

Της είπε επίσης το όνομά του και της έδειξε με ακρίβεια τον τόπο όπου βρισκόταν θαμμένο το ιερό λείψανό του. Το γεγονός αυτό διαδόθηκε σε όλη την περιοχή και πλήθος πιστών έσπευσε να προσκυνήσει τον ξεχασμένο τάφο του αγίου στρατιώτη. Τα ιερά λείψανα, που είχαν χάρη να θεραπεύουν διάφορες ασθένειες, μεταφέρθηκαν στον ναό του Αποστόλου και Ευαγγελιστή Ιωάννου του Θεολόγου στην Κωνσταντινούπολη.

Από τότε ο Άγιος Ιωάννης άρχισε να επιτελεί πολλά και μεγάλα θαύματα σε όσους κατέφευγαν στη μεσιτεία του με πίστη. Με τις προσευχές του βρίσκουν παρηγοριά όσοι υποφέρουν από θλίψεις, λύπες και δύσκολες περιστάσεις της ζωής. Στη Ρωσική Ορθόδοξη Εκκλησία τιμάται ιδιαίτερα ως προστάτης των στρατιωτών και θερμός μεσίτης των πονεμένων.

Δείχνει την ευσπλαχνία του σε όλους τους ανθρώπους, στους φτωχούς, στους ξένους και σε όσους ζητούν βοήθεια στην ανάγκη τους. Είναι γνωστός για ένα ξεχωριστό χάρισμα, καθώς συγκρατεί τους δούλους που θέλουν να δραπετεύσουν από τους κυρίους τους. Επίσης φανερώνει τις κλοπές, αποκαλύπτει τους κλέφτες και βοηθά τους ανθρώπους να βρουν όσα τους έχουν αφαιρέσει με δόλο.

Σε αυτόν καταφεύγουν με εμπιστοσύνη όσοι έχασαν κάτι πολύτιμο και ζητούν τη φανέρωση της αλήθειας. Με τέτοια θαυμαστά έργα τον πλούτισε ο Θεός για την ενάρετη και φιλόθεη ζωή του. Στην αγιογραφία ο Άγιος Ιωάννης παρουσιάζεται συνήθως ως άνδρας μέσης ηλικίας, με ανοιχτό καστανό ή σκούρο μαλλί και κοντό γένι.

Έχει ψηλό μέτωπο και βλέμμα γαλήνιο, που φανερώνει την εσωτερική ειρήνη και την ανδρεία της πιστής ψυχής του. Φοράει στρατιωτική πανοπλία και πλατύ μανδύα, σύμβολα της επίγειας υπηρεσίας του στα τάγματα του αυτοκρατορικού στρατού. Σε ορισμένες εικόνες κρατά σταυρό, ειλητάριο ή στρατιωτικά όπλα, που δείχνουν τη διπλή του ιδιότητα ως μάρτυρα και ως στρατιώτη.

Σε άλλες παραστάσεις εμφανίζεται με πατρικιανή ενδυμασία, με μακρύ χιτώνα και επανωφόρι, ως άρχοντας ευσεβής και τιμημένος. Η μορφή του εμπνέει ταυτόχρονα γενναιότητα, σεμνότητα και βαθιά αφοσίωση στον Κύριο που υπηρέτησε με πάθος όλη του τη ζωή. Η μνήμη του τιμάται από την ελληνική παράδοση στις είκοσι εννέα Ιουλίου και από τη σλαβική παράδοση στις τριάντα του ίδιου μηνός.