除了放牛之外,杨秀山还要负责清理牛棚里面的牛粪,这是一个体力活,十几岁的杨秀山由于营养不良,身材瘦小,干起来格外吃力,为此没少受地主的责打。1929年,红军来到了仙桃,他们打土豪分田地,穷苦百姓的生活有了很大改善。杨秀山家里也分到了几亩地,给地主家当了半辈子佃农的父亲高兴坏了,一连几晚都睡不着觉。
为了保卫胜利果实,很多地方都成立了农民协会和儿童团。15岁的杨秀山加入了当地的儿童团,站岗、放哨和送情报,每样工作干得都十分出色,很快就当上了儿童团团长,一年后杨秀山正式加入了红军队伍。别看年纪小,杨秀山打起仗来却格外勇敢,每次战斗都冲锋在前,多次在战场上立功。1935年,杨秀山凭借战功升任红18团政委,此时他年仅21岁。