此时太平天国正在北伐西征，清廷接连败退，应接不暇，陈开一看形势大好，于是率天地会起义军响应太平天国的号召，全力攻打广州，时为1854年秋。
然而广州乃清廷控桂粤命脉之地，两广总督叶名琛不惜勾结洋人来对抗起义军，最后导致陈开不得不放弃攻打，和李文茂率大部转攻广西。
1855年二月，陈开和李文茂从广西梧州开拔，预约天地会另一首领梁培友一起攻打广东中西部的德庆，得手后，他们又趁势攻下了粤西重镇肇庆府。说起肇庆，今人大多感到陌生，其实在明清一段时期肇庆比广州牛多了，肇庆古称端州，是北宋宋徽宗赵佶做皇子时的封邑，当时赵佶是端王，他当皇帝后认为端州是他的龙兴之地，因此将它破格升级。
其后，到了明代景泰三年，两广地区开始设置两广总督，辖治广东、广西全境，而总督府就在肇庆。作为两广军事政治中心的肇庆存在时长达182年，直到清乾隆十一年（1746年）才被广州替代。陈开攻下肇庆后，军队做了补给和休整，并且建立了一支水师，随后沿着珠江支流西江北上，攻破了广西。一路攻梧州、破藤县、过平南，进抵太平天国革命发源地浔州（即桂平等地），马上围攻府城。
浔州即桂平之地，桂平就是太平天国起义和兴起之源，太平军打出广西而北上之后，当地的民众继续反抗清廷，只是群龙无首，此时看到陈开率大股义军前来，他们纷纷拥护和加入。陈开等决定对浔州府城实施水陆夹攻，耗时三个月，终于攻下了它。
克复浔州府后，陈开听从大多将领的劝进，仿效太平军故事，宣布立国，国号大成，建元洪德。以太平天国乙荣五年（公元1855年）为大成洪德元年，铸钱文叫做洪德通宝。同时仿效太平天国永安封王，陈开称镇南王，后来改称平浔王，是大成国最高领袖。然后封李文茂为平靖王，封梁培友为平东王，区润为平西王，梁昌为定北王。改浔州为秀州，桂平为秀水县，贵县为怀城县，平南为武城县，以秀州城为大成国都，称为秀京。
陈开在广西浔州立国建都并封王后，号召力大增，实力也大增，迅速攻下了广西中部、西部和东部的梧州、平乐、南宁、柳州、庆远、思恩等府各州县。太平天国戊午八年（大成洪德四年，即公元1858年）三月，踌躇满志的大成国领袖镇南王陈开率主力东路军从梧州出发，经昭平、永安挺进到平乐、阳朔交界的季鱼塘（一作鲤鱼塘），大成国平靖王李文茂率西路军从柳州出发，挺进到临桂县苏桥，东西两路用钳形攻势直指桂林。
桂林是当时的广西省城，为清廷统治广西的政治、军事中心。桂林危急让清廷不敢懈怠，连忙命令此时在广西剿贼的蒋益澧统带所部湘军前去救援。陈开等大成国将士由于一路连胜，士气骄狂，非常轻视蒋益澧及湘军，再加之以前没有和湘军的作战经验，于是吃了大亏。蒋益澧先用一小部主力佯攻陈开的东路军，纠缠着陈开分不得身，然后集中优势兵力去解决战力较弱的李文茂部西路军，果然，蒋益澧很快打残了西路军，李文茂血战败回，陈开失去了援手，于是放弃各大桂林，回撤浔州。这时候湘军开始追杀，陈开连败数阵，开启了由进攻转入防御的后阶段。
经过湘军等两年的追剿，1861年（大成洪德七年）七月初，清军分东北两路从柳州、梧州向秀京进犯。柳州清军以陆军取道武宣县，从北面进攻，作为牵制的兵力。主力则在梧州方面，以水师大小二百馀舰上窜到平南县，用铁索列营丹竹江中，并以陆军分为五路来掩护水师，采用步步为营，稳扎稳打的战术，从东面进攻。陈开的水师强悍，于是亲率战舰四百多艘，把船樯拆下，船帆卷起，从秀京飞流而下，炮震山谷，把清军先锋十多个战舰都打沉，陈开就此以为敌人不堪一击，就顺流而下，直抵丹竹江上。
决战开始了，陈开率军猛攻，对面湘军拼命抵抗。正在双方杀得难舍难分之时，忽然大风骤起，陈开处于逆风方向，湘军见状仿效三国火烧赤壁之法，顺风拼命抛掷火弹火包，掷中陈开舰上火药库，延烧三舰，烟焰障天，对面不相见，陈开大叹“天亡我也！”急令退兵，但是他忘了自己太大意，先前拆下了帆樯，船退不动，加之军队已经大乱，湘军趁机扬帆攻了过来，陈开的水师全部被歼灭了，他自己乘坐一小艇狼狈地逃回了秀京。
此时的秀京，已经危机重重，清军从四面八方围了过来，幸亏陈开得到消息，太平天国翼王石达开此时在贵县，手下还有万余太平军（前不久20万远征军主力抛弃石达开已经回天京了），于是陈开邀约石达开共同拒清军，石达开火速增援秀京，但在大墟被清军死死挡住了。陈开只好摔了残兵撤出秀京，一路被清军截杀，最终被清军俘获，清军把他押回秀京，并剐杀之。两广天地会众在广西浔州建立的大成国就此覆亡，共计享国七年而已。
参考资料：罗玺纲《太平天国史之会党起义传四》
