1937年日军发动卢沟桥事变，对中国发动了全面侵略战争。北大学生文忠孝目睹全家惨死日军枪下，悲愤下决心从军杀日寇，却在投军路上遇到鬼子扫荡。在与鬼子殊死搏斗中，命悬一线时被赶到的八路军政委老庞救下，忠孝在昏迷前对老庞说：“我要当兵，我要打鬼子”。八路军军营内，脾气暴躁、口无遮拦的曹团长与书生出身的庞政委因为练字一事儿斗气。两个人嘴上斗气，但心里还是向着一处。听说忠孝醒了，团长一行人前来看望。忠孝见他们破衣烂衫、满嘴脏话，不由心生厌恶，表明自己要参加正规军。团长大怒，看不惯忠孝的书生样，倒是政委看好忠孝，并劝曹团长改改张口骂街的坏毛病。新兵宣誓大会上，新兵赵四福看到忠孝孤苦一人，让自己媳妇给忠孝做双鞋，赵四福的儿子喜欢忠孝，抱着忠孝不肯撒手。政委见到赵四福一家三口马上就要因为打仗而分别，动员大家为了孩子和家人英勇杀敌，保家卫国。政委请赵四福的媳妇给新兵做临别动员，一番临别寄托平实却感人至深。新兵们都大受鼓舞，誓死不做亡国奴。新兵团一刻不停地开始了真刀真枪的训练。鬼子在庙村发起进攻，残害无辜百姓，并故意在村口引诱我军入村，意图联合后方援军围剿我军。曹团长带领新兵英勇应战。日军预谋围剿我军，故意边打边撤退，设计引诱我军进村。曹团长带领八路军奋勇出击，随军救治伤员的护士梅梅不幸被敌人发现，危急时刻忠孝出手相救英勇杀敌。看见敌军火力尚强却无故撤退，曹团长意识到鬼子可能有埋伏，命令全军撤退。

看到敌军撤退，大家想乘胜追击，无奈曹团长命令全连撤退。营长通知新兵连撤退，新兵不解，忠孝情急下违抗命令，用枪威胁不准撤退，被赵四福打晕强行带走。由于撤退及时，大部队免于被围剿。营长打探出鬼子洗劫了附近三个村的伤员和乡亲，曹团长发誓要为无辜百姓报仇。政委听说忠孝违抗军令本来要严肃处理，但看在他英勇杀敌上份儿功过相抵。忠孝半夜潜入日本战俘牢房想杀死日本兵，被赵四福及时发现，强行拉了出去。训练时，忠孝联想到自己的家人被日军残害的场面，心中充满了仇恨。团长和政委担心忠孝过于激动早晚要惹事。午饭时新兵连的兄弟嫌弃忠孝是个穷讲究的弱书生，还拖累全连训练成绩，唯独赵四福护着忠孝。在训练射击时，忠孝由于夜里偷练枪法磨伤了手掌导致脱靶，再次拖了全连后腿。不服输的忠孝连夜苦练，在赵四福的提点下终得要领。倔犟不服输的忠孝无时无刻不在练习，团长和政委看在眼里。午休时，赵四福收到了媳妇寄来的家书，请忠孝帮忙读信。读信时忠孝联想到自己逝去的亲人，黯然离去。午饭时，思乡的战友请忠孝帮忙给家里写信，忠孝都答应了。曹团长进城打探到鬼子运输寄养的车队要来，回来和政委、营长一起商量准备伏击。忠孝连夜替大家写好家书，将自己削好的木头手枪和身上所有的钱都给赵四福，让其和家书一同寄回家里。第二天一早，埋伏了一夜的士兵略显倦怠，忠孝却异常亢奋，几次沉不住气，想提前放枪，被赵四福拦了下来。随着鬼子的运输车驶入埋伏区，一场与鬼子的恶战即将拉开。

伏击战役中忠孝见到自己的队友被杀恨由心生，只身与鬼子搏斗。忠孝凭借一身蛮力徒手打死了鬼子，但却疯性发作，多亏曹团长前来相救才幸免遇难。虽然成功缴获了鬼子的物资，但新兵连伤亡不小。日语娴熟的忠孝在审问日军俘虏时恨不得活吞了对方，如嗜血的狼一般激动。军内组织比试刺刀的友谊赛，营长要与忠孝比试刀法。在师傅赵四福的叮嘱下忠孝刀法增进神速，竟然打赢了营长，大家都对忠孝另眼相看。政委担心忠孝太过偏激，找忠孝谈心，并拜忠孝为师学习日语，自己则教起忠孝英语来。曹团长对政委和忠孝上的语言课不屑一顾，认为打仗还得真刀真枪的练起来。但曹团长认同忠孝有狙击手的素质，特批了枪药供忠孝练习。其他新兵看见忠孝可以练习多种机枪，嘴上羡慕嫉妒忠孝，但心里不忘他帮忙写信的好。经过赵四福一番指点，忠孝的枪法进步神速。小王庄的刘老汉家新婚办喜事，宴请村民。八路军营内，棋艺不佳的曹团长和忠孝象棋对弈，忠孝连赢五十六局，令团长颜面全无。汉奸牛大贵带着太君来到刘老汉家找“花姑娘”，太君妄图强暴新娘子，被新娘子刺伤，一怒之下大开杀戒，半村的乡亲都惨死。刘老汉来找团长报仇，曹团长听完鬼子和汉奸的暴行，发誓不剿灭鬼子枉穿一身军装。曹团长和营长视察作战地形，小王庄地形易守难攻，犯起愁来。政委从县城打探到消息，日军马上有一个新宪兵队长调来，在小王庄驻扎的日军都不认识。曹团长听闻后有了主意。

民兵切断小王庄与外界的通讯线，日军通讯受阻，太君心中生疑。大勇带领忠孝和一营士兵乔装成日军来到鬼子城楼下，试图混进城。忠孝用一口纯正的日语声称武藤晋三大佐来视察，站在炮楼上的日军太君十分谨慎，不肯轻易放他们进来。忠孝从太君的话语中判断出他的家乡，于是用其家乡的俚语来骂他，日军队长激动万分，以为忠孝是老乡，完全卸下防备。忠孝一行在敌人放松警惕的情况下出其不意、毫发无损地拿下小王庄，缴获了敌人的全部物资。被活捉的太君质问忠孝为何背叛祖国，忠孝表明自己是堂堂正正的中国人。太君得知被骗，指着旁边的汉奸大笑这就是你们中国人，忠孝大受刺激，开枪打死了太君和汉奸。真正的武藤晋三大佐得知此事后，极为愤怒，下令要搜集八路军中这位日语通的情报。忠孝智取小王庄的事情很快传开了，乡亲们专程送来了美酒犒劳独立团。庆功会上，曹团长表现出对忠孝的赏识。庞政委发问，听说伪军已经投降了为何还会被打死。文忠孝承认是自己杀的伪军，在曹团长的暗示下，大勇称伪军想抢枪支，身边战友也连忙纷纷替忠孝开脱。庞政委听如是说，就没再追究。忠孝在庆功会上喝醉了，昏睡中反复念叨“为子死孝，为国死忠”，庞政委称这是文天祥的诗句。四福感到忠孝一定经历了很多，心里憋着很多苦。庞政委带着战利品到师部慰问大家，并见了朝思暮想的赵月。两人在路上遇到了师部医生梅梅。忠孝来向政委汇报工作，政委将他介绍给大家，忠孝面无表情的样子让梅梅对他印象并不好。

大勇向团长和政委汇报，称一营又扩编了两个连，想提拔一下忠孝。曹团长认为四福是带兵的料，庞政委提议让忠孝担任指导员，大勇称忠孝还不是党员。曹团长诧异，大勇称一问到他的家庭背景他就只字不提。曹团长把忠孝弄到炮排练习放炮、还让人教忠孝开摩托车，安排骨干兵和忠孝学日语。曹团长到炮排视察，将珍贵的炮弹特批给忠孝练习，并教忠孝布阵排兵，对其爱惜和重视可见一斑。庞政委带着忠孝干掉了刘村据点鬼子小队长，并对忠孝的表现给予了褒奖。皇军代表带着金条来到蒲阳庄寻求合作，庄主态度傲慢而冷漠，只称蒲阳庄祖训就是不问世事。皇军代表见状，称只要庄主也不和中国军队合作就行。庄主虽然表面上拒绝了皇军代表的要求，却收下了金条。庄主手下称收到八路军来信寻求合作，庄主要求回信拒绝与八路往来。甄县长带着赵月过来与曹团长、庞政委商议占据晋南地区的咽喉之地蒲阳庄，填补这一带的防务一事。赵月指出这个任务很艰难，蒲阳庄民风彪悍，有自己的独立武装，一直奉行中立主义。庞政委称上级指示派一支工作队去那里先做好群众工作，争取抗日力量。赵月向曹团长点将，称工作队一定要有忠孝这个小书生，曹团长却不愿意放人。甄县长和曹团长私下决定为庞政委和赵月举办婚礼。庞政委与曹团长商议工作队番号为一营五连，赵四福任连长，两人却为如何给忠孝定位犯愁。庞政委和赵月举办了简单而热闹的婚礼，晚上，曹团长竟然带着忠孝去听房，结果被赵月和庞政委发现，反戏弄了他们一回。