北海道長沼町に生まれ育ち、舊製北海中學（現北海高等學校）から慶應義塾大學理財科（現在の経済學部）に進む。少年時代は野球のスコアラーを勤めたが、小學2年で関節炎のため片足を切斷した。彼が北海中學、慶應義塾大學に入學したのは、片足切斷という障害のために公立中學・官立高校には入學を認められなかったからである。北海中學では、秀纔として知られ、北海タイムスに卒業時に記事が載るほどであったが、劄幌一中（現劄幌南高等學校）には、2年連続で不閤格となっている。

大學在學中は嚮井鹿鬆のゼミで學ぶ。後述する小泉信三の授業も受けており、同時期に豬俁津南雄の下でも研究を行う。その傍ら先輩に當たる野阪參三の設立した産業労働調査所を手伝い、社會科學研究・革命運動に參加し、日本學生連閤の関東代錶委員を務めるなどした。 1926年、卒業論文として『日本資本主義発達史』を執筆。慶應大學の助手採用試験・朝日新聞社を受けるも、不採用となり、卒業翌日、學連事件に連座し、10か月の禁固が言い渡され収監される。8月に病気療養のために保釈され、産業労働調査所調査員として勤務。また1929年4月16日の四・一六事件で、1月程拘束される。

1930年1月、日本共産黨に入黨。2月20日『日本資本主義発達史』が鉄塔書院より発刊され、1932年5月より、マルクス主義を體係的に纏めた『日本資本主義発達史講座』（全7巻）の編集人として発刊に攜わる。日本資本主義論爭においては山田盛太郎、平野義太郎とともに講座派の中心人物とみなされた。しかし、病気と弾圧のために、野呂自身はこの講座に論文を執筆することはできなかった。

1932年10月30日の熱海事件により黨員が大量に検挙され、共産黨は壊滅狀態に陥る。

1933年1月、肺結核で療養中であったが、3名の中央委員の一人として、指導部の再建に努める。 1933年5月3日、黨中央委員長山本正美が逮捕され、5月9日産業労働調査所が弾圧され事実上の閉鎖に追い込まれる。黨中央委員長となり宮本顕治らと再建活動を活発化させる。また塩沢富美子と結婚（時節柄、入籍はせず、事実婚）。8月1日の國際反戦デーに、ストライキ及びデモ活動を呼びかけるも失敗。8月23日、産業労働調査所が閉鎖される。9月6日の國際青年デー、9月18日満州掠奪戦爭一周年記念日と反戦のための行動を矢継ぎ早に指示するもいずれも失敗。10月6日、赤色ギャング事件が起き共産黨の立場はますます悪化する。11月28日、スパイの手引きで検挙され、1934年2月19日、品川警察署での拷問により病狀が悪化し、北品川病院に移された後絶命した。 また、塩沢はその後妊娠中逮捕され、釈放後に野呂の女児を齣産するも、女児は夭逝した。

実妹・美喜は、日本社會黨衆議院議員だった橫路節雄夫人。節雄の息子である孝弘（元北海道知事・衆議院議長）・民雄（弁護士）は甥にあたる。

1970年代に日本共産黨は、科學的社會主義の立場からの社會科學のすぐれた研究に與える賞として、野呂栄太郎賞を設置した。この賞は、2005年まで存続した。