Родился в Белостокской области Царства Польского.
Окончил Высшее ветеринарное училище в Кенигсберге, затем поступил в Институт корпуса инженеров путей сообщения.
Г. Х. Гасфорд был произведен в прапорщики.
Принимает участие в Отечественной войне, отличился после уничтожения моста через Днепр. За смелость в Бородинском сражении произведен в поручики. За свою жизнь он участвовал в шестидесяти сражениях, был удостоен многих орденов и наград.
Попал в плен, был освобожден новгородскими кирасирами. Участвовал во взятии Парижа, за что получил чин капитана.
Получил чин генерал-майора.
Принял участие в Польской кампании.
Отправляется в Молдавию и Валахию в составе сухопутного вспомогательного корпуса генерал-адъютанта Киселёва, посланного в помощь турецкому султану против египетского вице-короля.
Гасфорт послан в княжества Молдавию и Валахию для водворения там порядка и спокойствия.
Исполняет обязанности генерал-губернатора Западной Сибири. В течение десятилетнего своего управления Западной Сибирью Гасфорд провел многие административные реформы и присоединил к империи важные плодородные местности.
Прибыл в Омск с женой Любовью. Молодая супруга была смертельно больна, скончалась в Омске примерно через год.
Произведён в генералы от инфантерии и утверждён в должности генерал-губернатора.
Г. Х. Гасфорд женится в третий раз. Супруга — Надежда Львова.
Гасфорд уходит в отставку по состоянию здоровья. В Петербурге ему было присвоено звание члена Государственного совета.
Умер, похоронен на Волковом лютеранском кладбище в Петербурге.
