Le calcul infinitésimal a pour origine des notions, comme les fonctions continues ou les limites, qui étaient intuitives depuis les grecs et qui seront définies plus tard au XIX ème siècle.

La vitesse moyenne d'un mobile sur un intervalle de temps se calcule par :

Pour définir la vitesse en un instant t précis, la vitesse instantanée, on devra calculer le rapport :

quand devient de plus en plus petit, qui est donc la limite du rapport quand tend vers 0.  À cause du quotient égal à 0, les grecs ne savaient pas calculer cette limite.

Les études sur ces problèmes infinitésimaux se sont surtout développées au XVII ème siècle pour résoudre des problèmes liés à la mécanique.

Newton donne différentes explications du calcul infinitésimal. Dans Philosophia naturalis principia mathematica, publié en 1687, il utilise des quantités infiniment petites, qu'il appelle moments. Trouvant ces quantités insufisament rigoureuses, il cherche à mieux les définir dans Méthodes des fluxions et des suites infinies, terminé en 1671, publié à titre posthume en 1736. Il appelle fluxions les vitesses des quantités dépendant du temps et fluentes les quantités qui évoluent en fonction du temps :

J'appellerai quantités fluentes, ou simplement fluentes, ces quantités que je considère comme augmentées graduellement, et indéfiniment, je les représenterai par le dernières lettres de l'alphabet : v, x, y et z  et je représenterai par les mêmes lettres surmontées d'un point , , , les vitesses dont les fluentes sont augmentées par le mouvement qui les produit et que par conséquent on peut appeler fluxions.

Il énonce ensuite les problèmes du calcul infinitésimal :

Étant donné les relations entre des quantités fluentes, trouver la relation de leurs fluxions. Et inversement.

Pour trouver les fluentes, il note o un intervalle de temps infiniment petit, l'accroissement infiniment petit de x et l'accroissement infiniment petit de y. Pour trouver une relation entre et , il remplace dans la variable x par et y par , on obtient donc :

.

En utilisant le formule du binôme de Newton, on obtient :

Pour qu'il ne reste plus que , il retranche par et divise par o pour obtenir :

Enfin, il néglige les termes contenant o, c'est-à-dire les termes, comme , considérés comme indéfiniment petits pour tout entier n et pour tout réel x.

On a alors la propriété suivante : si o est indéfiniment petit, n o est lui aussi indéfiniment petit pour tout entier n. Or, dans , si a < b, il existe tel que nb > a. On dit alors que est un corps archimédien. Ainsi, en ajoutant à , les indéfiniment petits, le corps obtenu n'est plus archimédien, car si 0 < o < 1, alors pour tout , 0 < n o < 1, c'est-à-dire que n o reste un indéfiniment petit pour tout entier n. Les indéfiniment petits ne constituent donc pas un corps archimidien et ils possèdent des propriétés différentes de celles des nombres réels.

Dans Tractatus de quadratura curvarum écrit en 1674 et publié en 1704, Newton préfère écrire les rapports de la variation de x à celle de y. Avec le raisonnement similaire au précédent, il trouve :

qui est le rapport entre deux fluxions, qu'il appelle la dernière raison des variations évanouissantes et qui correspond à une limite.

Pour étudier le calcul infinitésimal, Leibniz étudie dans sa thèse en 1666 De arte combinatoria la suite des carrés et ses différences :

0, 1, 4, 9, 16, 25, 36
  1, 3, 5, 7, 9, 11
   2, 2, 2, 2, 2

Il remarque que la somme des premières différences est égale au dernier terme de la suite au carré : ainsi, , , . En notant, l la différence entre deux valeurs voisines de la fonction, on a la relation : . Il utilise bientôt la notation dy à la place de l et le symbole qui est le s de summa allongée. La relation devient alors :

Deux écoles vont se suivre : l'école anglaise et l'école continentale. La première avec Berkeley, Maclaurin, Taylor cherchent à clarifier les éléments infinitésimaux. La deuxième, dont Euler fait partie, cherche à lier le calcul différentiel à l'idée de fonction, car Leibniz rattache les bases du calcul différentiel à la géométrie des courbes et il parla pour la première fois de fonction en 1673 dans la Méthode inverse des tangentes ou à propos des fonctions. Pour Jacques Hadamard :

L'être mathématique, en un mot, ne fut plus le nombre : ce fut la loi de la variation, la fonction. La mathématique n'était pas seulement enrichie de nouvelles méthodes, elle était transformée dans son objet.

Après une correspondance entre Leibniz et Jean Bernoulli, celui-ci donne en 1718 la définition précise de fonction :

On appelle fonction d'une grandeur variable une quantité composée, de quelque manière que ce soit, de cette grandeur variable et de constantes.

Euler considère le calcul infinitésimal comme une extension de l'algèbre : aux opérations connues, deux nouvelles opérations sont ajoutées : la différentiation et l'intégration. Il cherche à affranchir le calcul infinitésimal de la géométrie.

Jean Le Rond d'Alembert comprend qu'il faut donner fonder le calcul différentiel sur la notion de limite. En tant que rédacteur scientifique de l'Encyclopédie dans l'article limite, il écrit que  la notion de limite est la vraie métaphysique du calcul différentiel. Il s'efforce alors de donner une idée rigoureuse de la notion de limite, mais il ne réussit pas à le faire de façon cohérente.

Il faudra attendre le XIX ème siècle pour élucider le concept de limite qui sera défini par Augustin Louis Cauchy dans son cours d'analyse à l'école polytechnique en 1821 :

Lorsque les valeurs successivement attribuées à une même variable s'approche indéfiniment d'une valeur fixe, de manière à finir par en différer aussi peu que l'on voudra, cette dernière est appelée la limite de toutes les autres.

Il peut ensuite définir rigoureusement la notion d'infiniment petit :

On dit qu'une quantité variable devient infiniment petite lorsque sa valeur numérique décroît indéfiniment de manière à converger vers la limite zéro.

L'histoire du calcul différentiel montre toute la difficulté de définir précisément des notions mathématiques ; ce qui peut prendre énormément de temps. Les limites seront définies plus d'un siècle après Newton, qui ne pouvait donner toutes les définitions à cause de barrières épistémologiques.