A finais dos anos 80 xorde o proxecto por parte de Doug McCombs e John Herndon, que crearon unha sección rítmica freelance (autónoma, no sentido laboral do termo), como os músicos de reggaeSly and Robbie. Esa idea nunca viu a luz, pero o seu interese en ritmos con groove e en trucos de estudio levounos a unirse con John McEntire e Bundy K. Brown, procedentes da formación de Bastro, e posteriormente con Dan Bitney. McEntire axiña se converteu no líder da banda cara aos medios de comunicación, se ben a única diferenza era que el era o enxeñeiro de gravación e o realizador das mesturas musicais.
O seu primeiro sinxelo editouse en 1993, e en 1994 editaron o primeiro álbum. Basicamente instrumental e cheo de medios tempos, Tortoise lentamente gañou recoñecemento e atención, debido en parte á infrecuente instrumentación (dous baixos, tres percusionistas con baterías, vibráfonos e marimbas). Un disco de remesturas foi editado despois, Rhythms, Resolutions and Clusters. Brown deixou a banda e foi substituído por David Pajo (anteriormente en Slint), que principalmente tocaba o baixo, pero achegou a primeira guitarra á banda, no disco de 1996 Millions Now Living Will Never Die, un cambio tanto en atención como en calidade. O álbum mezclaba moitos xéneros, pero aínda así nunca soa como un pastiche. Millions Now Living Will Never Die apreceu en moitas listas de finais de ano e os 20 minutos de "Djed" foron descritos polo crítico John Bush como proba de que "Tortoise fan desempeñar ó rock experimental unha dobre tarefa: ser música evocativa e bela".
En 1998 editaron TNT, de ton jazzístico. Pajo foi substituído por Jeff Parker, que tiña unha ampla bagaxe de música jazz. No 2001 editouse Standards, onde a banda incorporou máis electrónica e posprodución á súa música. No 2004 publicouse It's All Around You, e no 2006 colaboraron con Bonnie 'Prince' Billy nun álbum de versións titulado The Brave and the Bold e lanzaron A Lazarus Taxon, unha caixa cun dobre CD de sinxelos e remesturas, un terceiro CD cun expandido Rhythms, Resolutions and Clusters (fóra do mercado) e un DVD de vídeos e actuacións en directo.
O rock case enteiramente instrumental de Tortoise desafía a fácil categorización do son da banda, e o grupo gañou unha significativa atención desde o principio da súa carreira. Os membros teñen raíces na fértil escena musical de Chicago, con aparicións en variadas bandas indies e punks. Tortoise está entre as primeiras bandas norteamericanas en incorporar estilos próximos ó krautrock, o dub, o minimalismo, a electrónica e varios estilos do jazz, máis que a clásica banda standard de rock and roll e punk que dominou a escena durante anos. Tortoise foi citada como unha das principais forzas detrás do desenvolvemento e a crecente popularidade do chamado movemento post-rock. Porén, a súa música tamén foi criticada como mera derivación do rock progresivo, arguíndo que Tortoise foi obxecto dun indesexable hype para explicar que sexa unha banda tan recente con tanto éxito.
