Ne postoje pouzdani podaci o njegovom postanku. Najverovatnije je da se pojavio pre više od 2.000 godina.Prilikom arheoloških iskopavanja u Uzbekistanu nađene su dve figurice od slonovače koje pripadaju periodu vladavine cara Huviške (II vek). Stručnjaci smatraju da su to šahovske figurice. U V veku nastala je u Indiji posebna vrsta vojne igre na drvenoj ploči - "čaturanga", što znači četverodeoni. Čaturanga je kao daleki predak današnjeg šaha bila igra koja je odražavala sastav i poredak tadašnje indijske vojske ,koju su sačinjavala 4 roda: pešadija, konjica, slonovi i borna kola,a u sredini su se nalazili radža (kralj) i njegov savetnik mantrin (današnja kraljica ili dama).

Kretanje figura određivalo se bacanjem kocke. Igru su u VI veku prihvatili Perzijanci (čatrang), a od njih u VII veku Arapi su osvajanjem Irana preuzeli i tokom naredna dva veka bila je veoma populara u arapskim zemljama. Održavani su mečevi između najboljih igrača, proučena su moguća otvaranja (tabije) i sastavljeni su prvi problemi otvaranja (mansube). Kalif Harun-al Rašid je poslao krajem VIII veka francuskom vladaru Karlu Velikom na poklon šah od slonove kosti. 

U IX veku Arapi su je pod imenom „šatrandž“ preneli u Španiju,Šatrandž petstavlja viši oblik čaturange.Ishod borbe više ne određiju sličaj (bacanje kockice) već logika i snalažljivost igrača. Igra postaje veliku popularnost i širi se po evropskim zemljama sve do Islanda. Francuski kralj Luj IX je 1254. godine izdao specijalni edikt koji je zabranjivao igranje šaha. U Evropi je šah usavršen uvođenjem rokade i povećenjem dejstva kraljice i lovca (kod Arapa je kraljica mogla ići samo po jedno polje u kosom smeru, a lovac je mogao da skače koso na svako treće polje: pošto je teško bilo izvesti mat, postojala su dva načina da se pobedi - usamljivanjem protivničkog kralja i patom, koji se računao kao pobeda za patiranu stranu). Sa reformom su ukinuta ova dva načina pobede. 

Usavršavanjem od drevne čaturange igra je poprimala današnji oblik.i nastala je u XV veku kada se 1497 pojavilo prvo štampano delo o šahu koje je napisao španski šahist Lusena. Njegovo delo su nastavili u XVI i XVII veku španac Ruy Lopez i italijani Polerio i Greco , sve dok u XVIII veku francuski šahovski majstor Philidor delom Analyse des echecs (Analiza šahovske igre) nije postavio temelje savremenoj šahovskoj teoriji.