A l'époque de Fermat, les grandes idées sont encore en gestation, les mathématiciens cherchent les voies nouvelles à partir du travail des anciens Grecs, Archimède, Diophante, Euclide. C'est encore, en mathématiques, l'âge de la Renaissance, avant que la découverte du calcul infinitésimal par Newton et Leibniz n'ouvre vraiment l'ge classique. Cependant, en Analyse, en Arithmétique, dans le domaine des Probabilités, Fermat commence à défricher les chemins qui plus tard mèneront aux nouveaux territoires.

En Analyse, Fermat introduit la notion de représentation graphique d'une fonction, dans son ouvrage Isagoge ad locus planus et solidus, de façon plus nette sans doute que Descartes, dont le but est plutôt de résoudre les problèmes de géométrie par l'algèbre ; Fermat au contraire part de l'expression algébrique de la fonction pour tracer sa courbe représentative. Fermat anticipe par ailleurs sur le nombre dérivé quand il doit résoudre un problème de maximalisation ou de minimalisation ; sa méthode d'adégalisation consiste, pour trouver le nombre en lequel f atteindra un maximum, à considérer l'équation f(a + e) = f(a), à ôter f(a) au deux membres, à simplifier par e l'équation obtenue (cela est possible si f est un polynôme ou une fonction rationnelle) puis à poser e = 0 dans l'équation simplifiée.