Ծնվել է 1897 թ․ նոյեմբերի 20-ին (դեկտեմբերի 2), հայ երկաթուղային բանվորի ընտանիքում Ռուսական Կայսրության Ելիզավետպոլի (Գանձակի) նահանգի Չարդախլու գյուղում (ներկայիս Ադրբեջանի տարածքում)։ Նախնական կրթությունը ստացել է Գանձակի երկաթուղային դպրոցում։ Նույն գյուղում է ծնվել Համազասպ Խաչատուրի Բաբաջանյանը՝ ԽՍՀՄ զրահատանկային զորքերի գլխավոր մարշալը։
1915 թվականին Հովհաննես Բաղրամյանը կամավոր ընդգրկվեց Ռուսաստանի բանակում՝ 2-րդ Կովկասյան սահմանային գնդում՝ Ռուսաստանի էքսպեդիցիոն կորպուսի կազմում, և Առաջին համաշխարհային պատերազմի մեծ մասը կռվեց Կովկասյան ճակատում՝ օսմանյան Կայսրության դեմ։ Կարճ ժամանակ մասնակցելով Կովկասյան ռազմաճակատի մարտերին ընդունվում է Թիֆլիսի ենթասպաների դպրոցը։ Այն ավարտելուց հետո, 1917 թվականին կրկին մեկնում է ռազմաճակատ՝ համալրելու Էրզումի շրջանում գործող ռուսական զորքերի շարքերը։ 1917-1918 թվականներին Բաղրամյանը ականատես է լինում Կովկասյան ռազմաճակատում կատարված արմատական փոփոխություններին, մասնակցում հայ ժողովրդի ազատագրության համար մղված կռիվներին, Հայկական բանակի կազմում մասնակցել է 1918 թվականի Սարիղամիշի և Կարսի տարածքում թուրքերի դեմ կռիվներին, ինչպես նաև Սարդարապատի հերոսամարտին, որպես դասակի հրամանատար։
Խորհրդային կարգերի հաստատման առաջին իսկ օրերից նա կարմիր բանակի շարքերում էր։ Իր բարձր ընդունակության, արտակարգ աշխատասիրության, կազմակերպչական կարողության ու կարգապահության, ռազմական գործի նկատմամբ ունեցած մեծ սիրո շնորհիվ նա շատ արագորեն է անցել ծառայության սանդուղքներով։ 1921-23 թվականներին հեծյալ էսկադրոնի հրամանատար էր։ Մի որոշ ժամանակ աշխատում էր նաև Խորհրդային Հայաստանի ռազմական ժողկոմատում։ 1923-31 թվականներին հայկական հեծյալ գնդի հրամանատար էր։
1925 թվականին ավարտել է Սանկտ Պետերբուրգի (Լենինգրադի) հեծելազորային դպրոցը, 1934 թվականին՝ Ֆրունզեի անվան ռազմական ակադեմիան։ Այդ ընթացքում ծառայել է Հայաստանում տեղակայված խորհրդային զորքերում, Էջմիածինում, Երևանում, Գյումրիում։
1934-1936 թվականներին ծառայել է՝ որպես Կարմիր բանակի 5-րդ հեծյալ դիվիզիայի շտաբի պետ, 1938 թվականից ավագ դասախոս է եղել ԽՍՀՄ ԶՈւ-ի Գլխավոր շտաբի ռազմական ակադեմիայում։ Օժտված լինելով խոր գիտելիքներով և ռազմամանկավարժական հիանալի տակտով՝ նա լուրջ ավանդ է ներդնում բանակի համար բարձր հրամանատարական կադրեր պատրաստելու գործում՝ դասախոսելով ռազմական արվեստի պատմություն առարկան։ Այդ ընթացքում նաև կարճ ժամանակով բռնադատվել է։ Սակայն ինչպես շատ զինվորականներ, այնպես էլ Բաղրամյանը, գերադասում է ծառայությունը շարունակել բանակում։ Եվ ահա 1940 թվականի սեպտեմբերին նշանակվում է Կիևի Կարմրադրոշ ռազմական հատուկ օկրուգի բանակներից մեկի, ապա օկրուգի շտաբի օպերատիվ բաժնի պետ։ 1941 թվականի հունիսի 22-ին, այդ պաշտոնում նա դիմավորում է Հայրենական Մեծ պատերազմը։
Մասնակցությունը Երկրորդ Համաշխարհային պատերազմին
Նացիստական Գերմանիայի ԽՍՀՄ ներխուժելուց հետո 1941 թվականի հունիսին նշանակվում է շտաբի պետի տեղակալ Հարավ-արևմտյան ռազմաճակատում, որի շտաբը Կիևում էր։ Մասնակցել է մեծ տանկային ճակատամարտերին Ուկրաինայի արևմուտքում, Կիևի պաշտպանության ճակատամարտին, որի հրամանատարն է եղել գեներալ Միխայիլ Կիրպոնոսը։ Կիևի պաշտպանության հերոսական և հարավարևմտյան ռազմաճակատի նահանջի ծանր օրերին Բաղրամյանը եղել է շտաբի պետի տեղակալ, ապա շտաբի պետ։ Գեներալ Միխայիլ Կիրպոնոսըզոհվեց և ամբողջ զորքը գերի ընկավ գերմանացիներին։ Բաղրամյանը այն քիչ սպաներից էր, ով կարողացավ խուսափել գերմանական գերությունից։ Ապա Բաղրամյանը նշանակվեց մարշալ Սեմեոն Տիմոշենկոյի շտաբի պետ և մարտնչեց Ռոստովի մոտ, ինչպես նաև մասնակցեց հաջողակ Խարկովյան հակահարձակմանը 1942 թվականին։ Այս ժամանակ Բաղրամյանը անհաջող խոշոր հակահարձակման համար խնդիրներ ունեցավ, սակայն շուտով դրանք հարթվեցին և նրան նշանակեցին Ռոկոսովսկու նախկին` 16-րդ բանակի հրամանատար, որը արդեն կոչվում էր 11-րդ գվարդիական բանակ։ Հենց այս բանակի հրամանատարի պաշտոնում նա վարեց մի քանի բացառիկ հաջողված ռազմագործողություններ, այդ թվում նաև Օրեոլի մոտ «Կուտուզով» օպերացիան։ 1943 թվականի նոյեմբերին Բաղրամյանը գեներալ-գնդապետի կոչումով նշանակվեց 1-ին Մերձբալթյան ռազմաճակատի հրամանատար և մասնակցեց 1944 թվականի խորհրդային մեծ հարձակմանը Բելառուսում և Լիտվայում՝ («Բագրատիոն» օպերացիա)։ Նրա բանակները ճեղքեցին-հասան Բալթիկ ծով և շրջապատեցին 30 գերմանական դիվիզիաների Լատվիայում։ Այս ռազմական սխրագործության համար Բաղրամյանն արժանացավ Սովետական Միության հերոսի կոչման։
1945 թվականի սկզբին նրա բանակը մասնակցեց Արևելյան Պրուսիայի գրավմանը։ Բաղրամյանն էր ղեկավարում Քեոնիգսբերգի (այժմ՝ Կալինինգրադ) գրավման օպերացիան. 1945 թվականի ապրիլին և 1945 թվականի վերջին ստիպեց Մերձբալթիկայում շրջափակված գերմանական հզոր զորախմբավորմանը հանձնվել։
Գործունեությունը հետպատերազմյան տարիներին
Այդ տարիներին նա մեծ ներդրում կատարեց երկրամասում ֆաշիստական օկուպացիոն ռեժիմի հետևանքները վերացնելու գործում։ Էստոնիայում, Լատվիայում, Կալինինգրադի մարզում Բաղրամյանը բարի անուն է թողել ոչ միայն զորքերի, այլև աշխատավորության, կուսակցության, խորհրդային ակտիվի ամենալայն շրջաններում։ Պատերազմից հետո նա մնաց Բալթյան ռազմական օկրուգի հրամանատար։ 1954 թվականին նշանակվեց պաշտպանության նախարարության գլխավոր տեսուչ։ 1955 թվականին նշանակվեց ԽՍՀՄ պաշտպանության փոխնախարար և ստացավ Խորհրդային Միության Մարշալի կոչում։ Նա նաև ԽՍՀՄ ԶՈւ Գլխավոր Շտաբի ռազմական ակադեմիայի պետն էր և ԽՍՀՄ ռեզերվային ուժերի հրամանատարը։ Այդ պատասխանատու պաշտոններում լայնորեն են դրսևորվում մարշալի կազմակերպչական կարողությունները։ Հիշենք գիտության և տեխնիկայի զարգացման շնորհիվ բանակում և նավատորմում տեղի ունեցած տեխնիկական վերափոխումները և դրա հիման վրա բանակի նյութատեխնիկական հագեցման պրոբլեմը, որոնց լուծման գործում իր տաղանդն է ներդրել նաև Հ․ բաղրամյանը։ Զորացրվեց 1968 թվականին։ ԽՍՀՄ կրկնակի հերոս էր, պարգևատրվել է նաև Լենինի, Հոկտեմբերյան հեղափոխության շքանշաններով, Կարմիր դրոշի 3 շքանշանով, Սուվորովի 2 շքանշանով և Կուտուզովի շքանշանով։
Բաղրամյանը եղել է ընտանիքին նվիրված հայր, կինը՝ Թամարան, երեխաների կրթության և դաստիարակության նվիրյալ։ Որդին՝ Մովսեսը, պատերազմի մասնակից է առաջին օրվանից, սպա է։ Դուստրը՝ Մարգարիտան, գերազանցությամբ ավարտել է առաջին բժշկական ինստիտուտը՝ ակնաբույժի մասնագիտությամբ։ Թոռը՝ Իվան Սերգեյի Բաղրամյանը, ավարտել է Մոսկվայի համալսարանի տնտեսագիտական ֆակուլտետը։ Թոռնուհին՝ Կարինե Նաջարյանը, ավարտել է օտար լեզուների ինստիտուտը, դասավանդում է ռազմական ակադեմիայում, ունի փոխգնդապետի կոչում։