Значение апостола Иакова еще более укрепляла его подвижническая жизнь. Он был строгий девственник, не пил ни вина, ни других спиртных напитков, воздерживался от мяса, носил одежду только льняную. Имел он обыкновение уединяться для молитвы в храме и там коленопреклонно молился о своем народе. Он так часто простирался на землю в молитве, что кожа на коленях его огрубела.
Служение апостола Иакова было трудное: среди множества самых ярых врагов христианства. Но он поступал с таким благоразумием и справедливостью, что его уважали не только христиане, но и иудеи, и называли опорой народа и праведником.
Пребывая в должности Иерусалимского епископа около 30 лет, он распространил и утвердил святую веру в Иерусалиме и во всей Палестине. Когда апостол Павел в последнее свое путешествие посетил апостола Иакова, то в то время собрались к нему пресвитеры, и об успехах христианской проповеди среди евреев передали ему следующими словами: «Видишь, брат, сколько тысяч уверовавших иудеев, и все они ревнители закона» (Деян.21:20). Многие из евреев обращались к Церкви по одному доверию к слову праведника.
Видя такое влияние апостола, иудейские начальники стали опасаться, как бы весь народ не обратился ко Христу, и решили воспользоваться промежутком времени между отъездом прокурора Феста и прибытием на его место Альбина (62 г. после Р. X.) для того, чтобы или склонить Иакова к отречению от Христа, или умертвить его.
Первосвященником в это время был безбожный саддукей Анан. При большом стечении народа апостола ввели на портик храма, и после нескольких льстивых слов пренебрежительно спросили: «Скажи нам о Распятом?» – «Вы спрашиваете меня об Иисусе? – громко сказал праведник. – Он сидит на небесах одесную Всевышней силы и снова придет на облаках небесных». В толпе оказалось много христиан, которые радостно воскликнули: «Осанна Сыну Давидову!» Первосвященники же и книжники закричали: «О, и сам праведник в заблуждении!» и сбросили его на землю. Иаков мог еще подняться на колени и сказал: «Господи, прости их! Они не ведают, что творят». «Побьем его камнями», – закричали его враги. Один священник из племени Рихава (они не пили вина, жили в палатках, не сеяли ни пшеницы, ни винограда) начал уговаривать их: «Что вы делаете? Видите, праведник за вас молится». Но в эту минуту один изувер, по ремеслу суконщик, ударил своим вальком апостола по голове и умертвил его. Вместе с ним было умерщвлено много христиан.
Иудейский историк Иосиф Флавий, перечисляя причины падения Иерусалима, говорит, что Господь наказал евреев, между прочим, за убиение праведного Иакова. Апостол Иаков незадолго до своей смерти написал соборное послание. Главная цель послания – утешить и укрепить обращенных к вере иудеев в страданиях, которые предстояли им, и предостеречь их от заблуждения, будто бы одна вера может спасти человека. Святой апостол объясняет, что вера, не сопровождаемая добрыми делами, – мертва и не приводит ко спасению. Церковное предание приписывает апостолу Иакову составление древнейшего чина Божественной литургии.