接着，于谦为了加强京师禁卫军的战斗力，对原有的三大营体制进行了改造。在调拨三大营兵组织京师九门防御时，于谦发觉，三大营各有统兵官，互相之间不易协作，临期调发，兵将都很陌生。与敌突然相遇时，将士间有所呼召，却彼此不认识，叫不上名来。

    于谦从三大营中，选拔出10万兵士，分为五营团练，名曰团营法。以50人组成一队，队设队长，百人为两队，设领队官，千人设把总，5000人设一都指挥。体统相维，兵将相识，依据遇敌的多寡以调度我方人马。这是景泰二年(公元1451)年底作出的尝试。实行了一年后，又增加了5万兵，将五营军改建为十团营。每营设都督一人，都指挥三人，把总15人，指挥30人，每队设管队官二人。统领官仍由武臣和宦官充任，其中武臣石亨、宦官刘永诚、曹吉祥皆任都督。团营是用于对外作战的精锐军，未被选入团营的士兵，仍留在三大营的老营中，参加京师防卫，老营亦被称为“老家”。

    十团营建立后，于谦还为新建的京师禁卫军制定了严格的训练标准。

    于谦是一位公而忘私、胸怀壮志，以天下为己任的人。他自奉俭约，居所仅能遮蔽风雨，待人不避嫌怨，却时常当面折节。他的处事风格在官场上常常遇到阻碍，有时他拊膺叹道：“此一腔热血，竟洒何地!”面对于谦的杰出军事才能，身为武将的石亨每每自叹弗如，而暗地里却埋下了对于谦的忌恨。瓦剌进逼北京时，曾主张迁都的大臣徐理遭到过于谦的驳斥，几年后他改名为徐有贞，继续在朝中任职，私下对于谦切齿痛恨。