Den første boken Tolstoj ga ut, var Barndom (1852). Denne boken og de neste, Gutteår (1854), og Ungdom (1856) handler mye om hans egen oppvekst. Etter det skrev han flere bøker om tiden i militæret og krigen, blant annet Sevastopol-fortellinger (1855–1856).
Romanene Krig og fred og Anna Karenina blir regnet som store mesterverk. De beskriver russisk historie og kultur, og menneskers tanker og følelser, på en realistisk, detaljert måte. Begge handler om livet i russiske adelsfamilier.
Krig og fred er en historisk roman som foregår under Napoleonskrigene. Anna Karenina er en tragisk historie om kjærlighet, ekteskap og utroskap.
Tolstoj utviklet etter hvert sin egen religiøse og moralske filosofi. Han skrev flere teologiske skrifter. Det gjorde at han ble utstøtt av den ortodokse kirken.
I det kjente verket Hva er kunst (1898) var han kritisk til mye av kunsten i hans egen tid. Han mente at den burde være enkel, uten for mange følelser, og med en tydelig moral. Tolstoj ville også selv leve enkelt og mente at penger var «et onde».
De skjønnlitterære bøkene hans ble etter hvert skrevet i en enklere, knappere stil. Eksempler på det er Ivan Iljitsjs død (1886) og Oppstandelsen (1899).
Tolstoj var svært kritisk til tsaren, og flere av bøkene hans ble trykket i utlandet på grunn av sensur.