Het shào in “Shaolin” refereert aan de Shaoshi berg, een van de zeven bergen die het Songshan gebergte vormen; het is op deze berg waar het klooster is gevestigd. Het woord lín betekent “bos”. Het woord sì of shao betekent “klooster/tempel”. De taijiquan meester Zhang Zuyao vertaalde het woord “Shaolin” op incorrecte wijze als “jong bos” of soms als “klein bos”. De eerste Shaolintempel werd gebouwd in 495 in Dengfeng en deze is een van de oudste boeddhistische tempels van China. Men veronderstelt dat het gebruikt werd om de Indiase monnik Batuo een onderkomen te bieden gedurende de 30 jaren dat hij het Hinayana-boeddhisme predikte in China.
Reliëfsculptuur bij een Shaolintempel
Traditioneel ontwikkelden de Shaolinmonniken hun expertise in zelfverdedigingskunsten als antwoord op de aanvallen van bandieten, als een manier om lichamelijk in conditie te blijven en om mentale en fysieke discipline te krijgen. Shaolinmonniken reisden vaak veel door het land om het boeddhisme te prediken, en waren daardoor regelmatig het doelwit bij roofovervallen.
De bloeitijd van de tempel was tijdens de vroege Tang-dynastie (618-907), waarover in de geschiedschrijving verhaald wordt, dat Shaolinkrijgsmonniken het leven redden van de toekomstige keizer Li Shimin en hem bijstonden in zijn strijd tegen rebelse krachten. Toen hij eenmaal de troon bestegen had, vergrootte de dankbare keizer hun onroerend goed en gaf een aantal van hen toestemming verder te gaan met hun training als strijdmonniken. De kunsten van Shaolin bereikten hun top tijdens de Ming-dynastie (1368-1644), toen honderden Shaolinmonniken militaire status verwierven, en persoonlijk campagnes leidden tegen rebellen en Japanse bandieten. Tegen deze tijd hadden de Shaolintempels hun eigen unieke stijl van zelfverdedigingskunsten ontwikkeld, die bekend raakte als exemplarisch voor Chinese wushu.
De oorspronkelijke tempel werd vele malen geplunderd en herbouwd: de Mantsjoes vernietigden de oorspronkelijke gebouwen in 1647 en vermoordden bijna alle Shaolinmonniken aldaar. De Shaolintempel werd pas rond 1800 herbouwd. Een grote brand die in 1928 werd aangestoken door krijgsheer Shi Yousan vernietigde vele manuscripten van tempelbibliotheek die van onschatbare waarde waren. Deze manuscripten konden slechts gedeeltelijk op grond van nog overgebleven kennis van overlevende Shaolingroeperingen gereconstrueerd worden.
Door de eeuwen heen zijn er diverse afdelingen van Shaolin ontstaan door China heen met gebouwen in het hele land. Een van de beroemde was die van Fujian (bekend als de “Zuidelijke Shaolin”). Als gevolg hiervan werden duizenden seculiere bewegingen gesticht, die zich volledig aan het onderwijs in de zelfverdedigingskunsten wijdden, niet enkel in China, maar ook in regio’s over de hele wereld met een grote Chinese gemeenschap.