À la Chambre des députés, Armand Fallières siège à gauche, parmi les membres du groupe de la gauche républicaine. Il fait partie des " 363 ", ceux qui, le 22 juin 1877, après la " crise du 16 mai " votent un ordre du jour de défiance au Duc de Broglie, nouveau président du Conseil nommé par Mac-Mahon. La Chambre est alors dissoute.
Réélu aux élections d’octobre 1877, il s’affirme rapidement comme l’une des figures de la gauche. En mai 1880, il est appelé au Gouvernement. Il y restera pratiquement sans discontinuer pendant douze ans, jusqu’en 1892, en occupant principalement quatre portefeuilles, ceux de l’Intérieur, des Cultes, de l’Instruction publique (où il succède à Jules Ferry) et de la Justice.
Il s’illustrera dans " l’affaire des prétendants ", en déposant en janvier 1883, au nom du gouvernement, un projet de loi autorisant le ministère à expulser par décret tout membre d’une famille royale " dont la présence serait de nature à compromettre la sûreté de l’État ".
Au cours des années 1890, Armand Fallières s’efforça toujours de calmer les esprits, notamment lors des difficiles débuts de la " politique du ralliement ", émaillée d’incidents entre le gouvernement et la hiérarchie catholique.
Comme ministre de l’Intérieur, il fit annuler en août 1887 la délibération illégale du Conseil de Paris " invitant les 36.000 communes de France à envoyer des délégués à Paris pour dresser le bilan du siècle dont le terme approche, donner une forme aux aspirations comprimées par les réactions successives, etc. ".
Treize ans plus tard, le 22 septembre 1900, Armand Fallières, récemment élu Président du Sénat présidera au Banquet des Maires de France, aux côtés du nouveau Président de la République, Émile Loubet, son prédécesseur à la présidence de la Haute Assemblée … et auquel il succédera à la Présidence de la République.
Banquet des maires en France, 1900