清朝末年，云南回族人马绍武投奔自己的族叔甘肃西吉的高赞派大佬马元章。后来马元章派这位晚辈去新疆加强当地的高赞派势力，叮嘱他：既要为官，又要协助教门。
新疆都督杨增新也是云南人，他乡遇故知。马绍武原本是武举出身，却被杨增新用为衙门的文书先生。
马绍武因为工作敬业，于1914年受任为库车驻防司令（或安办amban，地方军事首领），1915年任疏附县知事（相当于县长）。
在高赞派内，马绍武被称为“瘦大人”，威望很高。当时他发现公款不够用，“函致吐鲁番属小教回民，筹银二万两，旬日而集，立汇喀什。”虽然马绍武实际直接统领的军队只有数百人，但久在南疆的军官桂芬却说：杨增新把马绍武安置在喀什，胜于在那里驻十万大军。
1917年6月，前往新疆调查财政的北洋政府财政部委员谢彬在阿克苏附近遇到从疏附卸任回省的马绍武的车队，见“大车三十余辆，马车轿车数辆，浩浩荡荡，尘土蔽天。”
不久，马绍武因宗教教派矛盾被喀什提督马福兴逐出喀什，出任乌什县知事。
这个马福兴也是马绍武的本家，在八国联军之际还保护过慈禧太后。但马绍武的另一个族人马化龙先前领导回变的时候被马福兴的祖上所杀，所以马绍武和马福兴两家早有矛盾，而且绝不会到此为止。
马绍武的高祖父是乾隆年间被正法的宗教领袖马明心。马绍武在伊犁为马明心遗孀张氏修建了拱北（意为“先贤陵墓”）和念经亭，马元章为此在张夫人的周年忌日赠他一幅手书对联：
万里祭孤坟而绍先祖志能绍先志方称孝子原籍修河堤而继前圣迹能继前迹乃为圣孙
夸赞马绍武是马家的好孙子。
1920年，马绍武任和田道台，要求在莎车的瑞典传教士聂斯特荣（瑞典语：Nystrm）医生前去访问，要他救治其两名患重病的士兵。聂斯特荣趁机提到想在和田建差会站。马绍武同意并允诺尽一切可能相助。不久，马绍武又要求汉娜·安德森（HannaAndersson）建立一个免疫项目，为全城的所有儿童进行免疫接种，并派兵保护她到和田，待如贵客。瑞典传教士们因此认为马绍武通情达理，现代西方医疗技术因此被引进和田地区。1926年，马绍武再次邀请了聂斯特荣。
在此之前，马绍武还做了另一件大事：亲手处决仇人马福兴。
1924年，杨增新因为与马福兴矛盾加深，就把消灭马福兴的任务交给了同仇敌忾的马绍武。马绍武派金绳武在吐鲁番、托克逊、鄯善等回民聚集区招募了一千余名回族高赞派青壮年教民，组建了军队，得到杨增新提供的武器装备并经过短期训练后，就去喀什讨伐马福兴。在其他部队协助下，马绍武于5月31日突袭喀什，擒获马福兴、马继武父子，亲手了结了两家的宿仇。
得胜后，马绍武采取一系列强硬措施，稳定秩序，制止劫掠。他想就地任喀什道台，但杨增新却以论功行赏的名义任马绍武为和田道尹，统辖从叶城到敦煌的地区；并命令他将部队交回迪化（现在的乌鲁木齐）。
上交兵权？马绍武不干了。
马绍武曾接待苏联探险团长尼克古·罗耶里奇教授和中亚探险队队员。尼克古的儿子乔治回忆称：“乌什安办马绍武是个小个子，但为人非常机警和彬彬有礼，举止安静。见面后在通常礼节性地询问了健康、路程等情况后，他要求我们（探险队队员）进里面的大客厅。那里已准备了茶水……下属官员们仍一直站着。”尼克古一行评价马绍武“能力强，有勇气，但耍阴谋，报复性强”。
乔治还回忆说马绍武的父亲是清末的云南省总督，因反清叛乱而亡。但历任云贵总督并无马姓回族人。马绍武家属说马绍武的父亲只是一名普通的乡绅。
其实，马绍武对尼克古一行的通行有所刁难，后来尼克古见到杨增新抱怨此事，杨增新称和田是强盗窝，马绍武已经镇不住。其实和田分裂势力很大，正是马绍武以铁腕控制住了局势维护了该地的秩序和主权。且杨增新非常疑心英国人借考察名义刺探情报为扩张做准备，“敦煌学者”斯坦因考察新疆时，马绍武也因此犹豫着不想发放签证。阻碍苏联探险队通行也是执行杨增新的命令，杨增新和马绍武其实是在唱红白脸。
1927年喀什道尹病故，马绍武继任，终于如愿。1928年，杨增新遇刺，金树仁成为新疆首脑，马绍武出任喀什区行政长。
在喀什执政期间，马绍武为在吐鲁番病故的马明心长女修建了拱北，并且分别在霍城霍尔果斯和绥定为马明心的另外两个死难的女儿修建了拱北，同时还出资帮助修建兰州东川、张家川宣化冈等地的拱北。他还与高赞派在新疆的“热依斯”（阿拉伯语，头领，即教主的代理人）李继良主持修建了迪化二道桥清真南大寺。高赞派凭借马绍武在政界的地位在新疆发展很大，马绍武在南疆不仅是政界、军界的首领，还是伊斯兰教的领袖之一。
与马福兴相比，马绍武不专断、不残暴，以铁血手段统治喀什，在大方向上忠于南京国民政府。他一边与瑞典传教士打交道，一边防范苏联和英国的渗透，同时与英国驻喀什领事馆也保持着非常密切的联系。他曾主张“借助英国力量开发当地资源，特别是先从英国引进专家解决灌溉、工业和修建道路等问题”，以发展南疆。
马绍武还注重绿化。瑞典国家档案馆藏有一张1931年喀什旧城疏附县当地军政人员和群众庆祝植树节的合影。根据照片边上的简短的瑞典文字说明，摄影者有可能是当时瑞典基督教行道会的传教士古斯塔夫·皮拉尼亚（G.Piranian）先生或斯文·赫定考察中国西北探险队的瑞典队员，总之肯定是瑞典人。照片上有马绍武、马绍武的儿子、喀什各族群众、不少军官和行政官员，这张照片是他们在马绍武带领下植树造林后拍摄的集体照。
和内政问题相比，马绍武面临的更严峻的考验来自军事方面。
1932年，马绍武镇压了埃德·米拉布的柯尔克孜叛乱，逮捕乌斯曼·阿里等人。1933年初，新疆遍地起事反抗金树仁，南疆也陷入动荡。马绍武需要维护喀什回汉二城和莎车、叶城等县的秩序，但部下只有回队武装步骑4个营共千余人，却要面临来自甘肃、逼近阿克苏、切断喀什与迪化联系的铁木尔伯克统领的维吾尔族和马占仓统领的回族军队。
