1928年,关东军制造“皇姑屯事件”,炸死东北的统治者张作霖,意图制造混乱。1931年9月18日,关东军制造“柳条湖事件”,并以此为借口炮击东北军大营,发动了九一八事变,拉开了长达十四年的侵华战争的序幕。1932年,建立满洲国。其间和其后关东军屡次扩大规模。
1939年5月,滿洲国軍隊与蒙古軍隊在諾門罕發生小規模邊境衝突,後演化成為關東軍對蘇聯紅軍的正面對決。朱可夫指揮六個旅七萬名蘇聯遠東軍,以機械化部隊擊敗兩個師團約四萬名關東軍。一萬八千名日軍戰死或受傷。日本全國震動,平沼內閣請辭。關東軍司令官植田謙吉及參謀長磯谷廉介被撤職。日本陆军部以苏联为进攻目标的“北进”计划严重受挫,转而准备以东南亚为目标的“南进”计划。
1941年七八月间,为配合纳粹德国对苏联的进攻,关东军组织了以苏联红军为目标的“关东军特别大演习”(关特演)。1941年底关东军配备有大量战斗力强的甲种师团(番号不大于20):第1师团、第8师团、第9师团、第10师团、第11师团、第12师团、第14师团、第23师团、第24师团、第25师团、第28师团、第29师团、第57师团。
1942年10月,日本将关东军司令部升格为关东军总司令部,增设两个方面军司令部和装甲军、关东防卫军司令部以及第2航空军司令部,关东军的兵力达到顶峰。1942年底关东军的主力师团变化不大,为:第1师团、第8师团、第9师团、第10师团、第11师团、第12师团、第14师团、第23师团、第24师团、第25师团、第28师团、第29师团、第57师团、第71师团。
从1943年开始,随着太平洋战事发展,关东军主力逐漸被抽調至太平洋戰線。1943年底关东军的主力师团:第1师团、第8师团、第9师团、第10师团、第11师团、第12师团、第14师团、第23师团、第24师团、第25师团、第27师团、第28师团、第29师团、第57师团、第71师团。
1945年1月,日军大本营再次抽调关东军13个师团赴太平洋战场。4月美军占领冲绳并开始空袭日本本土,日军为集中兵力进行本土决战,又从关东军抽调7个师团和所储备的近1/3战略物资回日本本土备战。
1945年5月纳粹德国投降后,日本为防守苏联可能进行的进攻,再次扩充关东军兵力,将在东北的25万退伍的日本军人重新征召,编成8个师团、7个混成旅团、1个坦克兵团和5个炮兵联队,作为临时部署兵力的补充。经过迅速补充,关东军兵力达到24个师团,约70万人。关东军总人数的增加只是一种表面膨胀,武器装备严重不足,甚至抽调伪军的装备补充新编关东军部队,很多新兵是老人和孩子,军事素质无从谈起。
8月,苏联红军出兵东北,关东军被击毙8万余人,被俘59万余人。战后,余下的关东军官兵作为俘虏被送到西伯利亚从事强制劳动。部分官兵加入共产党军队参加对中国政府军的内战。
1945年8月苏军发动攻击关东军战役时,关东军22个师团的配置:第39师团、第63师团、第79师团、107师团、108师团、112师团、117师团、119师团、122师团、123师团、124师团、125师团、126师团、127师团、128师团、134 师团、35师团、136师团、138师团、139师团、148师团、149师团。