但一年半载以后，问题丛生，有的坐吃山空，流而为盗；有的在金陵置产营生，而不免有强买强卖情事。马新贻在李鸿章支持及曾国藩默许之下，用军法整饬，毫不容情。如《李朝斌》传所叙，巨盗卜小二，实即散兵游勇所奉的首领。

自湘军被裁，淮军兴起，双方即颇不睦。薛荫榜安徽全椒人，自为淮军，故对属于湘军系统的太湖水师营哨丁，假借军法，毙于杖下，彼此间的感情可想而知。薛荫榜为祸首，而马新贻奏报定识的处分是：

已革游击薛荫榜委派巡夜，因太湖水师营勇徐有得等，在开设妓馆之胡二家滋闹，拿获棍责，尚无不合。惟因徐有得倔强不服，任意迭责，以致伤重殒命，实属决不如法，未便照邂逅致死律，勿论。已革游击薛荫榜应请依“官司决人不如法因而致死者杖一百”律，拟杖一百。业已革职，应毋庸议。惟该员年轻喜事，性情浮躁，应即递解回籍，交地方官严加管束。

观此，袒护之迹，殊为明显。而所谓“递解回籍交地方官严加管束”，其实乃是保护薛荫榜。否则，薛必死于湘军之手。