柯永胜跑了，他属下的军队当即溃不成军。闻听前线主将败退，围着胶州的三千军队当即也不战而退，胶州城解围。
见清军溃逃，胶州守将赵应元当即下令开城追杀，亲自领兵杀出了城去，直杀得清军狼狈奔逃，丢下了一地的尸体。
吴平督军到达胶州城外，赵应元亲自前来面见吴平，听闻吴平是齐国公手下大将，赵应元的态度恭敬至极。
虽然极力劝解吴平解救胶州，李彦直其实对赵应元的闯贼身份很是介意，为的只是山东的抗清大势，不得不想法解胶州之围。
现在清军败退，胶州围解，有打着齐国公陈越旗号的吴平在，赵应元的作用已经不是那么重要，胶州重地自然不能再由赵应元这个闯贼余孽占据！李彦直遂向吴平建议，任命赵应元为沂南总兵，驱使其攻伐青州南部。
形势比人强，赵应元虽然不甘心离开胶州，面对煌煌大势也无可奈何，只能带兵往西南去了。
胶州之战胜利的消息迅速传遍了整个胶东半岛，青州登莱各府原大明的士绅们受到鼓舞，纷纷举旗响应，无数的义士揭竿而起，杀掉满清委任的官职，攻打各个县城，数日的功夫，即墨、高密、平度、潍县等州县城池先后被义军攻陷，重新回到大明的治下。只有莱州登州青州府城还在满清官员治下，却已经惶惶不可终日。
各地义军举事之后，纷纷派人前来胶州联系，想要取得齐国公的支持。对这些义军首领，吴平一律暂且委以副将参将等军职，命其带领精锐前来胶州汇合。
十日之后，各路义军齐聚胶州，共汇集大军三万余人。不过听闻吴平仅仅是齐国公陈越部将，所带也只有七条海船五六百人马之后，众人略微有些失望。原本以为是朝廷终于要发兵北伐，却谁知只有这么点人。
“诸位，朝廷肯定不会放弃北方各省，早晚会挥师北伐，不过不久前刚败，整理军队需要一些时间。不过俗话说，自救者人恒救之，自爱者人恒爱之。我们不能事事都要指望着朝廷，满清不久前被齐国公大败八旗兵损失十来万人，他们满人总人数有多少？满清在山东根本没有八旗兵，留守山东的只是柯永胜这样的绿营，有什么好怕的？现在正是我等奋发而起的时候。
只要我等团结一致，听从吴平将军的调遣，击败清军收复整个山东毫无问题！建功立业封侯就在眼前！”
李彦直振臂大呼道。李彦直有着举人的身份，在青莱一带名气很大，他的话直击很多人的内心，让人不由得热血沸腾了起来。
这些义军首领除了一部分是士绅以外，其他的大都是本地的豪强，甚至还有一些地痞山贼之类，太平年月很多人是没有出头的机会的，可现在却不一样了，天下大乱正是男儿建功立业的时候，奋起搏一把说不定能搏出个高官厚职来，为子孙留下一份基业！
于是，很多人慷慨陈言，发誓要为国效力，和满鞑势不两立云云。
趁着士气高涨，吴平开始整编这些军队，也不打乱其中的编制，各级首领还是担任原职，不过却从各部抽调了一些精锐补充到自己中军。他抽调的不多，每部也就数十人一两百，各部首领也没有异议。
于是，直属于吴平的军队从原来五百人扩展到三千，当然盔甲武器有些不全。