Родился в селе Косовно Сквирского уезда Киевской губернии в семье диакона местной церкви. В миру Сильвестр — Иустин Львович Ольшевский.
Окончил Киевскую духовную академию со степенью кандидата богословия.
Был рукоположен в сан иерея.
Руководил женской воскресной школой города Полтава.
Был награжден саном протоиерея.
Был назначен епископом Прилуцким, викарием Полтавской епархии с пострижением в монашество.
Над архимандритом Сильвестром была совершена хиротиния в Санкт-Петербурге в Свято-Троицком соборе Александро-Невской лавры.
Был назначен епископом Омским и Павлодарским.
Вместе с членами епархиального совета призвал церковных пастырей своей епархии к исполнению окружного послания Святителя Тихона, в котором содержался призыв к православному клиру и мирянам не вмешиваться в политическую борьбу. В ответ на это обращение советские газеты развернули кампанию против архиерея.
Скончался от смертельной болезни.
