Родился 22 августа 1913 года в городе Пятигорске, ныне Ставропольский край, в семье рабочего. Окончил 7 классов неполной средней школы. Работал слесарем, одновременно учился в Пятигорском аэроклубе. С 1935 года в рядах Красной Армии. В 1937 году окончил Качинскую военную авиационную школу лётчиков. Участник похода Советских войск в Западную Украину и Западную Белоруссию 1939 года.

С июня 1941 года лейтенант Б. Я. Терновой на фронтах Великой Отечественной войны. По октябрь 1941 года сражался в составе 184-го ИАП; по май 1943 года - в 573-м ИАП; по март 1945 года - в 487-м ИАП  ( 146-м Гвардейском ИАП ); по май 1945 года - в 1007-м ИАП.

К июлю 1944 года командир 1007-го истребительного авиационного полка ПВО  ( 9-й истребительный авиационный корпус, Войска ПВО территории страны )  Гвардии майор Б. Я. Терновой в воздушных боях уничтожил 11 самолётов противника лично и 8 - в составе группы.

18 августа 1945 года за мужество и воинскую доблесть, проявленные в боях с врагами, удостоен звания Героя Советского Союза.

После войны продолжил службу в войсках ПВО. Службу закончил в звании Гвардии полковника. Жил в Днепропетровске. Умер 9 мая 1956 года.

Награждён орденами: Ленина, Красного Знамени  ( дважды ), Александра Невского, Красной Звезды; медалями.

Свою боевую деятельность на фронтах Великой Отечественной войны лейтенант Б. Я. Терновой начал в составе 184-го истребительного авиационного полка. С осени 1941 года сражался уже на Западном фронте в 573-м ИАП, сбивает 3 вражеских бомбардировщика Ju-88, рвавшихся нанести удар по Москве. Летал Терновой и на разведку, совершил 21 боевой вылет. Ещё 22 раза он вылетал штурмовать зенитные огневые позиции и передний край обороны противника. Любил также штурмовать огневые позиции, особенно крупные цели: артиллерию, машины, реже - танки. Он видел падающих от его пуль врагов, вспыхивающие факелами машины, в страхе бегущих лошадей, разбивающих повозки и подминающих ногами и колёсами повозочных.

Войска ПВО страны решали разные задачи на каждом этапе боевых действий. Авиация противника не смогла причинить серьёзного ущерба и дезорганизовать работу и жизнь городов нашей страны. Свой вклад в решение этих задач внёс и Терновой. Зрелость и совершенство проходило в жестоком сражении с врагом.

Отличился он в летних боях 1942 года, защищая город Воронеж от налётов авиации противника. Бои на Юго - Западном фронте принесли новый успех - его боевой счёт пополнил бомбардировщик Не-111. Терновой отлично ориентируется в воздухе и ведёт бой. В групповых боях сбивает несколько самолётов.

Об интенсивности действий немецкой авиации на Воронежском направлении в июне - июле 1942 года можно судить по следующим данным: в границах Воронежско - Борисоглебского дивизионного района ПВО в июне было зарегистрировано 2420 самолёто - полётов со среднесуточным налётом 81 самолёт, а в июле - 4508 самолёто - полётов со среднесуточным налётом 150 вражеских самолётов.

Для противовоздушной обороны Воронежа, являвшегося важным стратегическим пунктом, крупным железнодорожным узлом и местом дислокации штаба Юго - Западного фронта, а также для обороны крупных железнодорожных узлов Поворино, Лиски, Валуйки, Купянск, Касторное, Грязи и железнодорожных коммуникаций в этом районе в ноябре 1941 года был создан Воронежско - Борисоглебский дивизионный район ПВО. Непосредственная оборона Воронежа осуществлялась отошедшей из Киева 3-й дивизией ПВО и 101-й истребительной авиационной дивизией ПВО, которая имела на вооружении 47 истребителей.

Первый крупный налёт на Воронеж неприятель произвёл и ночь на 28 июня 9-ю группами самолётов общей численностью до 50 Ju-88 и He-111. Лётчики 101-й истребительной авиационной дивизии, действуя на дальних подступах к городу, при отражении этого налёта уничтожили 3 самолёта, и зенитчики 3-й дивизии ПВО над городом сбили 2 бомбардировщика.

28 июня во второй половине дня немцы повторили массированный налёт на город, совершив его 5-ю последовательными эшелонами бомбардировщиков. И с этого времени до 6 июля массированные налёты на Воронеж не прекращались.

Для того чтобы достичь успеха при налётах на обьекты Воронежа и уменьшить свои потери, противник прибегал к всяческим ухищрениям. Он искусно использовал для маскировки облака, совершал налёты со стороны солнца. Для отвлечения огня зенитчиков и сковывания наших истребителей за 3 - 5 минут до налёта появлялись вражеские истребители. Они часто пытались блокировать и наши аэродромы.

Воины 3-й дивизии ПВО и 101-й истребительной авиационной дивизии вовремя разгадывали все хитрости врага и давали ему надлежащий отпор. С большим подъёмом сражались в небе Воронежа лётчики - истребители, отражая массированные налёты авиации противника в условиях значительного превосходства его сил, проявляя при этом мужество и героизм. В период напряжённых боёв в июне - июле 1942 года авиаторы 101-й дивизии произвели 2413 самолёто - вылетов, провели 68 воздушных боёв и сбили 47 немецких самолётов.

Лётчик - истребитель А. Р. Белый на МиГ-3 атаковал группу из 4 бомбардировщиков Ju-88 и умелой атакой сбил самолёт. Подоспевшие на помощь 2 наших истребителя сбили ещё один бомбардировщик  ( сражаясь в составе 124, 573, 910 и 439-го ИАП, Анатолий Романович Белый уничтожил 8 вражеских самолётов лично и 9 в группе ).

Мужество и отвагу проявил и лейтенант К. Н. Аверин, атаковавший группу из 7 Не-111. Применяя искусный маневр и выбирая выгодные положения для ведения боя, он поджег 2 самолёта противника.

Однажды группа бомбардировщиков Ju-88 и He-111 в сопровождении пары Me-109 пыталась нанести удар по Воронежу. Находившийся в воздухе лётчик - истребитель П. С. Терентьев, обнаружив врага, незаметно вышел на дистанцию 50 метров и открыл огонь. Один из бомбардировщиков рухнул на землю. Немецкие истребители атаковали советского офицера, но П. С. Терентьев не растерялся и смело пошёл в лобовую атаку. Меткой очередью он отправил на землю одного из "Мессеров". На помощь товарищу подоспел капитан Б. Я. Терновой и с дистанции 100 метров сбил Не-111. Остальные вражеские самолёты пустились наутёк, отказавшись от выполнения своей задачи.

4 июля лётчики - истребители лейтенанты К. П. Потапов и X. X. Ханипов, патрулируя на истребителях Як-1 в районе железнодорожной станции Масловка, обнаружили 9 Ju-88 под прикрытием 12 Me-109. Несмотря на численное превосходство, наши лётчики атаковали врага. Бомбардировщики противника, заметив наши самолёты, развернулись и под прикрытием 6 Me-109 стали уходить. Наши истребители вступили в бой с "Мессерами". Но вскоре X. X. Ханипов заметил, что мотор его машины работает с перебоями, и направился на аэродром. Оставшись один против шести, К. П. Потапов продолжал вести неравный бой. Преследуя одного из врагов, он израсходовал все боеприпасы. Но нельзя было безнаказанно отпустить противника. Увеличив скорость, Лейтенант настиг Ме-109 и ударом винта обрубил ему хвостовое оперение. Вражеский самолёт рухнул на землю, а советский лётчик, умело пилотируя, благополучно приземлился на своём аэродроме.

В апреле - мае 1943 года Терновой участвует в защите Краснодара и Курска. Воздушные бои велись каждый день...

С мая 1943 года командовал эскадрильей в 487-м истребительном авиационном полку  ( 101-я истребительная авиационная дивизия Войск ПВО страны ), который 9 октября 1943 года был переименован в 146-й Гвардейский ИАП.

Капитан Терновой отличился в период летних боёв 1943 года под Курском. Так, в книге "Войска ПВО страны в Великой Отечественной войне 1941 - 1945 годов", на странице 216 есть следующее сообщение:

"2 июня 1943 года авиация противника совершила повторный, более крупный налёт на железнодорожный узел Курск. В дневном налёте участвовало 543 вражеских самолёта, в том числе 424 бомбардировщика. Ночью на Курск с разных направлений прорывалось до 300 вражеских бомбардировщиков. Налёты отражали зенитные части и подразделения Воронежско - Борисоглебского дивизионного района ПВО и 101-й ИАД ПВО во взаимодействии с истребительной авиацией 16-й и 2-й Воздушных армий.

К вышесказанному остаётся добавить лишь следующее:в ожесточённых боях 2 Июня 1943 года лётчики ПВО сбили 54 самолёта противника. Заместитель командира полка по политчасти Герой Советского Союза майор В. Ф. Башкиров в 5 воздушных боях сбил 2 самолёта противника, лейтенант А. А. Елдышев, капитан Б. Я. Терновой - по 4, капитан П. П. Калюжный, старший лейтенант М. П. Старжинский - по 3, сержант С. Г. Яковенко сбил 2 самолёта противника. В этом бою отличились также лётчики старшие лейтенанты Г. К. Гультяев, Н. Н. Кузнецов, лейтенанты М. М. Митенков, К. Ф. Карпов и многие другие. Капитан Терновой в этот день несколько раз водил в бой свою эскадрилью, показывая личный пример отваги и боевого мастерства.

Командующий 16-й Воздушной армией генерал - лейтенант авиации С. И. Руденко после боя заявил, что он много наблюдал воздушных схваток, но такого упорства, такой стремительности, такого мужества в борьбе в воздухе ещё не видел.

Согласно данным наградного листа, к 7 июня 1943 года капитан Б. Я. Терновой выполнил более 200 боевых вылетов, провёл около 30 воздушных боёв и сбил 15 самолётов противника. За эти подвиги он был представлен к ордену Красного Знамени  ( получил - Александра Невского ).

И в дальнейшем Терновой увеличил свой боевой счёт в боях на Правобережной Украине. 8 февраля 1944 года его группой в районе Корсунь - Шевченковского было сбито в воздушном бою 5 самолётов Ju-52, при этом - сам Терновой лично сбил 2 "Юнкерса". В этот же день лётчики полка произвели штурмовку вражеского аэродрома. Подойдя к цели, Терновой приказал одной группе расправиться с зенитными средствами, а другой - произвести штурмовку наземных целей. Обе группы провели 3 захода. Уходя от аэродрома, они уже не слышали выстрелов зениток, а на поле аэродрома высоко в небо поднялись 4 столба чёрного дыма от горящих транспортны Ju-52.

В 1944 году майор Б. Я. Терновой был назначен командиром 1007-го истребительного авиационного полка в составе 9-го истребительного авиационного корпуса Войск ПВО страны. К июлю 1944 года его на боевом счету числилось 11 лично сбитых самолётов противника, ещё 8 - в составе группы и 4 - на земле.

За образцовое выполнение боевых заданий командования, мужество, отвагу и геройство, проявленные в борьбе с немецко - фашистскими захватчиками, Указом Президиума Верховного Совета СССР от 18 августа 1945 года майор Tерновой Борис Яковлевич удостоен звания Героя Советского Союза с вручением ордена Ленина и медали "Золотая Звезда"  ( № 8603 ).

После окончания войны Б. Я. Терновой продолжал службу в Войсках ПВО страны, командовал 39-м Гвардейским ИАП. В октябре 1950 года Гвардии подполковник Терновой был назначен заместителем командира 65-й ИАД ПВО, в 1955 - 1956 годах командовал 155-й ИАД. После выхода в запас, жил в Днепропетровске. Скончался 9 мая 1956 года. Похоронен в Днепропетровске на Аллее Героев Запорожского кладбища.

Список всех известных побед Гвардии майора Б. Я. Тернового:
( Из книги М. Ю. Быкова - "Победы сталинских соколов".  Издательство "ЯУЗА - ЭКСМО", 2008 год. )