Апостол Павло в посланні до Галатів пише, що разом з апостолом Петром вважалися стовпами Церкви і апостоли Яків та Іоанн. Святий Яків був сином Іосифа Обручника від його першої дружини і тому в Євангелії названий братом Господнім. Згідно з переданням, Господь Іісус Христос з’явився йому після Свого Воскресіння і поставив його єпископом Єрусалимської Церкви. Таким чином, на долю апостола Якова випала особлива діяльність: він не подорожував з проповіддю по різних країнах, як інші апостоли, а вчив і священнодіяв в Єрусалимі, котрий має таке важливе значення для християнського світу.
Як глава Єрусалимської Церкви, святий Яків головував на Апостольському Соборі в Єрусалимі в 51 році. Голос його тут фактично був вирішальним, і пропозиція, зроблена ним, стала постановою Апостольського Cобору (Діяння, глава 15).
Значення апостола Якова ще більше зміцнювало його подвижницьке життя. Він був незайманий, не пив ні вина, ні інших спиртних напоїв, утримувався від м’яса, носив тільки лляний одяг. Мав він звичай усамітнюватися для молитви в храмі і там колінопреклонно молився про свій народ. Святий апостол Яків робив це так часто, що шкіра на колінах його загрубіла.
Служіння апостола Якова було важке, серед безлічі найзатятіших ворогів християнства. Але він діяв з таким розумом і справедливістю, що його поважали не лише християни, а й іудеї і називали опорою народу та праведником.
Перебуваючи на посаді Єрусалимського єпископа близько тридцяти років, апостол Яків поширив і утвердив святу віру в Єрусалимі та у всій Палестині. Під час своєї останньої подорожі його відвідав апостол Павло. У той час зібралися до нього пресвітери, і про успіхи християнської проповіді серед євреїв передали йому такими словами: «бачиш, брате, скільки тисяч іудеїв, які увірували, і всі вони — ревнителі закону» (Діян. 21:20). Багато хто із євреїв навертався в християнство із самої лише довіри до слова праведника.
Бачачи такий вплив апостола, іудейські начальники стали побоюватися, як би весь народ не навернувся до Христа. Вони вирішили скористатися проміжком часу між від’їздом прокуратора Феста і прибуттям на його місце Альбіна (62 р. після Р. X.) для того, щоб або схилити Якова до зречення Христа, або убити його.
Первосвященником у цей час був саддукей Анан. За великого скупчення народу апостола вивели на стіну храму, і після декількох улесливих слів зневажливо запитали: «Скажи нам про Розіп’ятого?» — «Ви питаєте мене про Іісуса?» — голосно сказав праведник. «Він сидить на Небесах праворуч Всевишньої сили і знову прийде на хмарах небесних». У натовпі було багато християн, які радісно вигукнули: «Осанна Сину Давидовому!»
Первосвященники і книжники закричали: «О, і сам праведник в омані!» — і скинули його на землю. Яків зміг ще піднятися на коліна і сказав: «Господи, прости їх! Вони не знають, що творять». «Побиймо його камінням», — закричали його вороги. Один священник із племені Рехавового (вони не пили вина, жили в наметах, не сіяли ні пшениці, ні винограду) став умовляти їх: «Що ви робите? Бачите, праведний за вас молиться». Але в цю хвилину один нелюд, за ремеслом сукнороб, ударив своїм праником апостола по голові і вбив його. Разом з ним було вбито багато християн.
Іудейський історик Іосиф Флавій, перелічуючи причини падіння Єрусалима, говорить, що Господь покарав євреїв, серед іншого, за вбивство праведного Якова.
Апостол Яків незадовго до своєї смерті написав соборне послання. Головною метою послання є втішити й укріпити навернених до віри іудеїв у стражданнях, які чекали на них, і застерегти їх від хибної думки, нібито сама лише віра може спасти людину. Святий апостол пояснює, що віра, яка не супроводжується добрими ділами, є мертвою і не приводить до спасіння.
Церковне передання приписує апостолу Якову складання найдавнішого чину Божественної літургії.