De äldsta fynden av matematisk verksamhet på den indiska halvön stammar från Induscivilisationen, som fram till 1700 f.Kr. blomstrade längsmed floden Indus stränder i dagens Pakistan. Mätningar gjorda på tegelstenar från den antika fyndplatsen Mohenjo-daro, en gång en av Induscivilisationens största städer, visar att invånarna där måste ha använt sig av en sorts linjal: Alla stenarnas längd är jämna multipler av en enhet på ca 3,4 cm - kanske en forntida kunglig tumme? Eftersom Mohenjo-daro var en av de största centralorterna, i en av dåtidens mest framgångsrika civilisationer, torde de tekniker som användes där utgöra spetsen i den tidens teknikutveckling, med de mest påkostade byggena, den högsta kvalitén, och den trendsättande motorn i spridningen av kulturell och teknologisk utveckling.
Våra viktigaste matematiska arv från Induscivilisationen, och det arv som fortfarande lever närmast oss, är tiobassystemet. Basen tio var det vanliga i Mohenjo-daro: Om man multiplicerar tummen med tio, får man ett mått på ca 34 cm - kanske en förhistorisk fot - och också ett mått som användes flitigt i byggen. Med andra ord föredrog de som byggde att använda jämna tiomultipler; tio tum blev en fot. Vid utgrävningar i Harappa, en annan stor förhistorisk stad i Indusdalen, upptäckte arkeologerna till och med bevarade linjaler och därtill viktmått, skapade enligt samma tiobassystem och som säkerligen använts i byggen i staden. I Harappa hittade man även en bronsstav, med ett mått på drygt nio millimeter. Hundra sådana blir nämligen ett steg, som också var ett vanligt mått ibland ruinerna.
Men Harappa- och Mohenjo-daro-bornas matematik gick säkerligen långt utöver den relativt rudimentära geometri som har gjort dem berömda, men deras muntliga tradition har inte motstått tidens tand. Först efter den litterära traditionens utbredning i samband med den indo-ariska invasionen började de matematiska tankegångarna att nedtecknas. Förändringarna i det indiska samhället var långtgående. Den vediska perioden, som tiden mellan 1700 och 500 f.Kr. brukar kallas, såg uppkomsten av stabilare kungadömen, med kulturella intressen, följt av sanskrits spridning och skrivkonstens utbredning. Som en del av samhällsförändringarna uppträdde även kastsystemet. Förvaltandet och kodifieringen av religionen samlades inom det brahminska kastet, som nedtecknade de vediska skrifterna, som utgör grunden inom hinduismen, men också innehåller poetiska antydningar om att intresset för geometri levde kvar. Eftersom matematiken räknades som ett av religionens uttryck, var även denna en brahminsk angelägenhet, och det var de som utvecklade den första generationen av vad vi idag kallar våra siffror.
Den bild som framträder av den tidiga indiska matematik är starkt religiöst präglad, och bevarade inte minst arvet från den förskriftliga tidens recitationstekniker i de karaktäristiska mantrana. I synnerhet talteorin förknippades med det gudomliga, och denna den vediska matematiken har blivit berömd för sina utförliga namn på ohemult höga tal. Men även det geometriska arvet från Induscivilisationens dagar kom till utlopp i de vediska skrifterna. I en rad tillägg till de religiösa Rigveda-texterna, beskriver dåtidens matematiska auktoriteter hur matematiken skulle tillämpas vid religiösa byggen. Dessa tillägg går under namnet Sulba Sutras, och kan sägas karaktärisera den vediska matematiken som inriktad på och underordnad religionen. Därmed inte sagt att den vediska matematiken inte såg flera kunniga matematiker och banbrytande upptäckter - även under denna period fanns många verksamma och framgångsrika matematiker i det vediska Indien.
Till skillnad från senare matematiker under den indiska matematikens guldålder, som samlades i skolor kring framstående centralgestalter, fördes den vediska matematiken vidare inom ätter, från far till son. Dessa ätter sysslade med både astrologi och matematik, eftersom dessa under den vediska tiden hängde tätt samman. Men eftersom astrologin var en viktig del av religionen, var det mot slutet av den vediska perioden inte lätt att framföra nya tolkningar, eftersom dessa oundvikligen skulle strida mot något inom religionen. Istället fick matematiken större utrymme, eftersom det där var lättare att vara nyskapande: En ny matematisk teori kunde alltid accepteras, så länge den inte direkt motsade något inom astrologin.
[T]here can be no doubt that our decimal place-value system was born in India and was the product of Indian civilization alone."
- Georges Ifrah
Mot slutet av den vediska perioden började två andra religioner att växa: jainismen och buddhismen. Båda var väsentligt mer abstrakta, vilket erbjöd matematikerna både större frihet och nya områden. Medan buddhismen grundades vid denna tid, hade jainismen redan då gamla anor och en välutvecklad matematisk tradition. I likhet med hinduismen fanns inom jainismen ett intresse för höga tal, exempelvis delades tiden upp i perioder om 2588 år. Man drog dock en skiljelinje mellan det stora och det oändliga: Universum, exempelvis, saknade både början och slut. Men att räkna på oändligheter är både svårt och abstrakt, och i våra ögon förefaller den jainistiska indelningen i "oändligt i en riktning, oändligt i två riktningar, oändligt i area, allestädes oändligt och evigt oändligt" något ovetenskaplig. Intresset för det ändlösa gjorde ändå att de teorier de jainistiska matematikerna utvecklade inte skulle komma att överträffas förrän med den tyske matematikern Georg Cantor kring det förra sekelskiftet.