马殷出身河南鄢陵,早年以木匠为业,后投奔秦宗权部将孙如。公元892年,孙如战败后,刘建锋与马殷率残部七千人南下洪州,刘建锋被推为主帅,马殷任先锋指挥使。公元894年,刘建锋部进入湖南,用计攻破武安军节度使邓处讷驻守的龙回关,斩杀邓处讷,占据潭州。
刘建锋因纵酒失政,于895年被部下所杀。张吉原欲继任,但因伤让位马殷。马殷接管武安军后,被唐廷任命为潭州刺史。公元900年,马殷派李琼攻破靖江军,斩杀陈可凡,并俘虏节度使刘士正,扩张势力至贵州、宜州等地。
公元902年,马殷受封武安军节度使,加授同平章事。次年,杨行密派刘存围攻鄂州,朱温命马殷联合陈瑞、雷彦威救援。马殷部将秦彦辉率水军抵抗,最终斩杀刘存,夺取越州,巩固了其在湖南及周边地区的统治。