Dans un contexte d'agitation syndicale et anarchiste (une partie des lois relatives à la liberté individuelle et aux délits de presse visant à réprimer cette agitation, qualifiées de lois scélérates par l'opposition socialiste, venaient d'être votées), Sadi Carnot est assassiné d'un coup de poignard par l'anarchiste italien Sante Caserio le 24 juin 1894, lors de l'Exposition de Lyon. Il meurt des suites de sa blessure le 25 juin 1894 peu après minuit. Sadi Carnot était alors particulièrement haï dans les rangs anarchistes pour avoir refusé la grâce d'Auguste Vaillant dont l'attentat à la Chambre n'avait pourtant pas fait de victimes.
Son assassinat fait adopter par la Chambre la dernière et la plus marquante des "lois scélérates", visant uniquement les anarchistes, et leur interdisant tout type de propagande. Elle a été abrogée en 1992.
Il repose au Panthéon de Paris avec son grand-père Lazare Carnot. Il est le seul président français qui y soit inhumé.