Le principe d’une organisation nationale est décidé par les mutualistes à Saint-Etienne en septembre 1902 ; la FNMF est officiellement fondée à Paris, au Musée social, le 10 novembre. Jusqu’à la Première Guerre mondiale, sous la direction de son président Léopold Mabilleau, elle a surtout un rôle de popularisation du mouvement. Bon orateur, doué d’un réel charisme, Léopold Mabilleau excelle à mettre en scène de grandes fêtes nationales (en 1904, 1905, 1909, etc.) et départementales où, en présence des plus hautes autorités de l’Etat, la Mutualité voit son rôle social reconnu. Ces manifestations contribuent à faire connaître le mouvement qui gagne 2 millions d’adhérents dans le pays. Toutefois, en 1914 le taux de pénétration de la Mutualité dans la société française ne dépasse pas 12 % de personnes.

La Première Guerre mondiale révèle la fragilité de la FNMF que l’on entend fort peu ; son action en direction des unions et des groupements reste marginale. En 1921, la démission forcée de Léopold Mabilleau symbolise les débuts de la seconde période de l’histoire de la FNMF : elle se dote alors des moyens nécessaires pour assurer la direction réelle du mouvement et en devenir l’unique porte-parole. Décision est prise en 1925 que les congrès nationaux trisannuels seront désormais organisés par la seule Fédération, après consultation des Unions départementales ; le Comité exécutif est renforcé par une “ Commission permanente ” réunie chaque semaine. Les ressources de la FNMF étant alors très insuffisantes, il est décidé d’augmenter la cotisation fédérale afin d’assurer un fonctionnement effectif. Enfin, la FNMF se dote d’une Direction des services administratifs en 1928. Si certaines de ces décisions ont pour but d’adapter la FNMF au cadre des Assurances sociales prochaines, elles contribuent aussi, à plus long terme, à l’émergence d’une organisation capable de représenter et de guider l’action de l’ensemble des mutualistes.