Le tatami serait apparu il y a 1300 ans au Japon à la cour de l'Empereur Shoumu qui utilisait le tatami comme lit sous l'ère Nara (710-794). A l'ère Heian (794-1192), l'usage du tatami est réglementé : selon son rang social, on n'utilise pas le même type de tatami ; l'épaisseur du tatami, la couleur et les motifs sur ses bords sont différents. Par exemple, les bords des tatamis de l'Empereur sont fabriqués avec les meilleures soies.

Initialement utilisé en guise de lit puis en tapis de sol, l'usage du tatami se généralise pendant la période Muromachi (1333 - 1573) chez la classe supérieure des marchands et samouraïs. En effet, à l'origine le tatami est un produit de luxe pour la classe aisée à une époque où la plupart des gens avaient des sols en terre battue. Le tatami va aussi très vite être associé à la cérémonie du thé et à d'autres rites religieux japonais.

C'est vers 1500 que la culture de l'igusa dans le domaine de Yatsushiro est développée à grande échelle. On dit qu'aux débuts de la culture d'igusa, celle ci fut encouragée par le seigneur Yastushiro qui dirigeait le fief à l'époque. Vers la première moitié de l'ère Edo (1730), le tatami se répand parmi les couches populaires. Sous l'ère Meiji (1867-1911), les agriculteurs commencent à l'utiliser, le 19eme siècle voit l'usage du tatami se généraliser dans les foyers japonais.

Aujourd'hui, le tatami reste l'unité de mesure de la maison japonaise et de nombreuses constructions. À noter que même si les maisons s'occidentalisent, ils gardent encore souvent encore une pièce en tatami.