1851年4月，大学士赛尚阿以钦差大臣的身份被派往广西，用以遏制已如同火山喷发一般的太平天国运动。出发前，内阁中书左宗植建议赛尚阿，应在其班子中加入一个名叫江忠源的人，无所有偶，另一位大学士祁隽藻也向赛尚阿推荐了江忠源。
赛尚阿当时对江忠源并不了解，只知道他是举人出身，做过地方小官，但既然两名同僚都不约而同地推荐了他，又都认为此人是一员不可多得的干才，于是便奏准让江忠源随营办差。
几个月后，江忠源前往赛尚阿位于桂林的行辕报到，赛尚阿将他调入了广州副都统乌兰泰的军幕。
按照那个时代人们的刻板印象，满人尚武，汉人崇文，比如乌兰泰就是有过从征回疆经历的满洲军人，从没有读书应试。后者似乎已成为汉人的专利，他们满腹经纶，却通常手无缚鸡之力。江忠源出身举人，自然也应该是个文弱书生才对，实质不然，江忠源能文能武，而且言谈举止都极为豪爽干练，这让乌兰泰很是高兴，两人相处融洽，彼此都觉得十分投机。
经过进一步了解，乌兰泰才知道，江忠源原来也和他一样打过仗，而且仗还打得非常漂亮。
在江忠源的家乡湖南新宁，一度会党活动非常频繁，先后爆发了雷再浩、李沅发起义。其时太平天国运动尚未形成气候，湖南省官员拟调大部队去新宁镇压，但被江忠源劝止。
官军是客军，不熟悉新宁的当地情况，难以对付本地义军不说，还会骚扰民间。江忠源回到新宁，依托家族子弟，建立了名为新宁勇的团练，自己教兵勇兵法，然后指挥他们与义军作战，结果竟得以一战讨平，江忠源也因此崭露头角。
至此，乌兰泰终于明白，为什么京城大吏会纷纷推荐江忠源了。这时新宁勇早已遭到遣散，但乌兰泰仍力劝江忠源重建部队，拉到广西来打太平军。
江忠源听从其言，即刻写信给正在家乡的四弟江忠淑，江忠淑的动作也很快，立马招募了五百人开进广西，号为“楚勇”。楚勇原先由江忠淑直接带队，由于江忠淑身患痢疾而提出辞呈，便改由江忠源亲自指挥。
在广西集结的各路清军中，只有楚勇以省命名。虽然该部的五百兵勇仍旧保留着其乡勇的特色，但与原先的新宁勇相比，部队建制已升级成为更高形式——新宁勇是地方团练，自卫乡里，自筹经费，作战范围连新宁都不出，更别说出境来广西了。楚勇至少是准正规军，不仅跨乡跨省，而且和经制兵绿营一样，由官府供饷。
随赛尚阿征战的部队，多为从各省抽调的正规军，起先他们尚看不起楚勇，楚勇普遍身材短小、衣衫不整的样子也成为其笑料，然而战场之上，归根到底不是看谁的形象好，而是看谁更能打，几次交战下来，楚勇用实际表现证明了他们绝非浪得虚名，其他官军渐渐也就不敢再小视他们了。
