北海道長沼町に生まれ育ち、旧制北海中学（現北海高等学校）から慶應義塾大学理財科（現在の経済学部）に進む。少年時代は野球のスコアラーを勤めたが、小学2年で関節炎のため片足を切断した。彼が北海中学、慶應義塾大学に入学したのは、片足切断という障害のために公立中学・官立高校には入学を認められなかったからである。北海中学では、秀才として知られ、北海タイムスに卒業時に記事が載るほどであったが、札幌一中（現札幌南高等学校）には、2年連続で不合格となっている。

大学在学中は向井鹿松のゼミで学ぶ。後述する小泉信三の授業も受けており、同時期に猪俣津南雄の下でも研究を行う。その傍ら先輩に当たる野坂参三の設立した産業労働調査所を手伝い、社会科学研究・革命運動に参加し、日本学生連合の関東代表委員を務めるなどした。 1926年、卒業論文として『日本資本主義発達史』を執筆。慶應大学の助手採用試験・朝日新聞社を受けるも、不採用となり、卒業翌日、学連事件に連座し、10か月の禁固が言い渡され収監される。8月に病気療養のために保釈され、産業労働調査所調査員として勤務。また1929年4月16日の四・一六事件で、1月程拘束される。

1930年1月、日本共産党に入党。2月20日『日本資本主義発達史』が鉄塔書院より発刊され、1932年5月より、マルクス主義を体系的に纏めた『日本資本主義発達史講座』（全7巻）の編集人として発刊に携わる。日本資本主義論争においては山田盛太郎、平野義太郎とともに講座派の中心人物とみなされた。しかし、病気と弾圧のために、野呂自身はこの講座に論文を執筆することはできなかった。

1932年10月30日の熱海事件により党員が大量に検挙され、共産党は壊滅状態に陥る。

1933年1月、肺結核で療養中であったが、3名の中央委員の一人として、指導部の再建に努める。 1933年5月3日、党中央委員長山本正美が逮捕され、5月9日産業労働調査所が弾圧され事実上の閉鎖に追い込まれる。党中央委員長となり宮本顕治らと再建活動を活発化させる。また塩沢富美子と結婚（時節柄、入籍はせず、事実婚）。8月1日の国際反戦デーに、ストライキ及びデモ活動を呼びかけるも失敗。8月23日、産業労働調査所が閉鎖される。9月6日の国際青年デー、9月18日満州掠奪戦争一周年記念日と反戦のための行動を矢継ぎ早に指示するもいずれも失敗。10月6日、赤色ギャング事件が起き共産党の立場はますます悪化する。11月28日、スパイの手引きで検挙され、1934年2月19日、品川警察署での拷問により病状が悪化し、北品川病院に移された後絶命した。 また、塩沢はその後妊娠中逮捕され、釈放後に野呂の女児を出産するも、女児は夭逝した。

実妹・美喜は、日本社会党衆議院議員だった横路節雄夫人。節雄の息子である孝弘（元北海道知事・衆議院議長）・民雄（弁護士）は甥にあたる。

1970年代に日本共産党は、科学的社会主義の立場からの社会科学のすぐれた研究に与える賞として、野呂栄太郎賞を設置した。この賞は、2005年まで存続した。