L'œuvre, par le sujet qu'elle aborde, est une sorte de pendant de La Sonate à Kreutzer. Elle raconte l'histoire d'Eugène Irténieff, jeune homme célibataire, propriétaire terrien, qui noue avec une paysanne une relation à laquelle, même une fois marié, il ne parvient à mettre fin.
Le Diable est écrit à partir de 1889, mais n'est achevé qu'en 1909, fait partie des nombreuses œuvres (romans, nouvelles, pièces de théâtre, dialogues) encore inédites à la mort de Léon Tolstoï. La plupart d'entre elles ont été réunies en 1911 dans les Œuvres posthumes. Certains de ces textes remontent à 1883 (Le journal d'un fou), d'autres appartiennent aux dernières années de Tolstoï ; mais, d'une manière générale, ils peuvent tous être répartis en deux catégories : ceux que Tolstoï a écrits par volonté morale, et ceux que lui a dictés son instinct artistique. Le Diable se rattache nettement à la première d'entre elles. Au départ, Le Diable a été inspiré à Tolstoï par un fait divers relatant le crime d'un fonctionnaire du gouvernement de Toula, Friéderichs, qui avait assassiné sa maîtresse, la paysanne Stépanida.