Wiek XVII przesiąknięty był ésprit géométrique, namiętną skłonnością do ścisłego porządku, uporczywym pragnieniem znalezienia pewnej metody poznania. Nic dziwnego, że matematyka, dziedzina prawd niezbitych, cieszyła się wielkim prestiżem i niemal każdy filozof próbował wykorzystać jej niepodważalność (i jej prestiż) w swojej argumentacji. Henry More sądził, iż dowiódł istnienia duszy nieśmiertelnej z matematyczną pewnością, a Thomas Hobbes pragnął zgeometryzować politykę. Newton zaś uważał, iż jego interpretacja Apokalipsy św. Jana wywiedziona jest z geometryczną ścisłością.
Samo zetknięcie się z matematyką bywało iluminacją decydującą o intelektualnej przyszłości. Thomas Hobbes ujrzał w bibliotece pewnego gentlemana otwarty egzemplarz Geometrii Euklidesa i choć twierdzenie, na które się natknął, wydawało mu się w pierwszej chwili niemożliwe do przyjęcia, musiał je w końcu uznać, czytając jego dowód i cofając się do innych niezbędnych dowodów. Odtąd zakochał się w geometrii. Nie przeszkadzało mu to zresztą później publikować własnych „rozwiązań” starożytnych nierozwiązywalnych problemów kwadratury koła czy podwojenia sześcianu.
Newton nigdy nie relacjonował swoich uczuć, niewiele wiadomo o jego osobistym stosunku do tematów, którymi się zajmował. Autobiografia intelektualna, tak istotna dla wielu ówczesnych filozofów, w wydaniu Newtona stawała się zbiorem anegdot opowiadanych pod koniec życia i sucho wyliczających kolejne naukowe podboje. Podobnie jak i inni współcześni Newton rzadko przyznawał się do czyichkolwiek wpływów, a szczególnie starannym milczeniem pokrywał wpływ Kartezjusza, który z czasem stał się jego głównym naukowym i filozoficznym przeciwnikiem.
Geometria Kartezjusza, opublikowana po raz pierwszy jako jeden z dodatków do Rozprawy o metodzie, była podstawową książką w bibliotekach matematyków drugiej połowy XVII w. Była też niewątpliwie największym osiągnięciem Kartezjusza w naukach szczegółowych, choć tylko część wyników była oryginalna. Geometria zawierała zarówno problemy dziś zaliczane do algebry (np. rozwiązywanie równań), jak i do geometrii (klasyfikacja krzywych lub szukanie krzywych spełniających zadane warunki).
Matematycy wieków XVI i XVII dużo czasu poświęcali rozwiązywaniu problemów postawionych jeszcze przez starożytnych, jak na przykład trudne zadania o miejscach geometrycznych, których rozwiązania zaginęły i zdaniem samych starożytnych były niezadowalające. Próbowano rekonstruować zaginione traktaty i poszukiwano analizy – sekretnej metody, której używać mieli starożytni w dochodzeniu do swych rozwiązań. Wierzono bowiem, iż dowody w formie znanej z geometrii – „syntetycznej” – są rezultatem wcześniejszej znajomości rozwiązania.
Metody rozwijane przez nowożytnych matematyków były jednak (nie zawsze w zamierzony sposób) oryginalne i opierały się na algebrze, niemal nie znanej w starożytności. Kartezjusz potraktował w swej Geometrii liczby jako stosunki długości odcinków. Pozwalało mu to zapisywać zadania geometryczne w postaci równań algebraicznych, i odwrotnie. Był to decydujący krok w kierunku dziedziny nazwanej póżniej, w XIX w., geometrią analityczną.
Kartezjusz udoskonalił też zapis algebraiczny, który u niego przyjmuje postać bliską współczesnej. Dzięki swoim metodom mógł pokazać, że starożytny problem Pappusa o miejscach geometrycznych dla trzech i czterech zadanych prostych sprowadza się do równań kwadratowych, którym odpowiadają krzywe stożkowe. Metoda analityczna pozwala tu łatwo znaleźć rozwiązanie, które w starożytności wymagało udowodnienia kilkudziesięciu twierdzeń.
Geometria była pierwotnie napisana po francusku, w dodatku niezbyt zrozumiale i szkicowo. Dlatego w powszechnym użyciu było łacińskie wydanie Schootena, w którym znalazły się również prace następnego pokolenia matematyków, takie jak Jana DeWitta Elementa curvarum (Elementy krzywych), jeden z pierwszych traktatów z geometrii analitycznej. Właśnie z tego wydania korzystał Newton. Czytał również Clavis mathemathicae (Klucz do matematyki) Oughtreda, który wprowadził go w elementarną algebrę.
Dziełem, które stało się dla Newtona punktem wyjścia do własnych badań, była Arithmetica infinitorum Johna Wallisa. Wallis był niemal o dwie dekady wcześniejszym czytelnikiem i uczniem Oughtreda i podobnie jak Newton – matematycznym samoukiem. W chwili zetknięcia się z matematyką miał 31 lat, niedługo później, w 1649 r., otrzymał katedrę geometrii Savile'a w Oxfordzie, na której pracował owocnie przez ponad pół wieku. Wyniki przedstawione w Arithmetica infinitorum dotyczyły metod obliczania pól ograniczonych liniami krzywymi. Był to wraz z zagadnieniami konstrukcji stycznych do różnych linii krzywych i badania ekstremów jeden z najważniejszych przedmiotów badań XVII w. Obie grupy zadań były rozwiązywane rozmaitymi metodami zmieniającymi się od zadania do zadania, choć powoli stawało się jasne, że powinny istnieć metody pozwalające na ogólne potraktowanie takich problemów.
Prace Wallisa były tyleż pomysłowe, co nieścisłe. Obliczał on pola pod krzywymi w sposób arytmetyczny, posługując się raz po raz indukcją niezupełną, tzn. odgadywaniem wyniku na podstawie prawidłowości liczbowych. Wallis w okresie wojny domowej, zanim jeszcze zajął się matematyką, zatrudniony był przy rozszyfrowywaniu depesz przesyłanych przez rojalistów. Jego późniejsza praca w matematyce zachowała zbliżony charakter. Udało mu się jednak uzyskać wiele ciekawych (i prawdziwych) wyników, w tym przedstawienie liczby p jako nieskończonego iloczynu.
Notatki Newtona ukazują rozwój naukowy, którego szybkość mierzy się w miesiącach. Młody uczony przekształcał czytany materiał na własne potrzeby: systematyzował go, stawiał sobie pytania, rozwijał poznawane metody. Od początku szukał np. metod określenia własności geometrycznych krzywej, takich jak osie, wierzchołki, krzywizna itp., na podstawie znajomości jej równania. Kartezjusz podał metodę wytyczenia normalnej do krzywej, jeśli zastosować jego metodę do dwóch bliskich punktów krzywej, to znajdziemy środek krzywizny, o czym Kartezjusz nie pomyślał. Kontynuując takie rozważania do grudnia 1664 r. Newton potrafił już określić punkty najmniejszej i największej krzywizny danej krzywej.
Interesował się również konstrukcją krzywych, wyszukał ponad 30 sposobów wykreślania stożkowych z użyciem rozmaitych przyrządów. Zaczął konstruować tablice sinusów, ale po obliczeniu kilku wartości z dokładnością 15 cyfr zarzucił ten projekt. Jego podejście do matematyki było praktyczne: interesowały go efektywne metody obliczenia jakiejś wielkości czy skonstruowania krzywej lub określenia jej własności. U Kartezjusza znaleźć można ideę graficznego rozwiązywania równań, która w rękach Newtona stała się narzędziem służącym do szukania przybliżonych rozwiązań; w celu poprawienia ich dokładności wymyślił metodę znaną dziś jako metoda Newtona-Raphsona.
Zimą 1664/65 Newton czytał Schootena i Wallisa i do lata rozwinął już metodę nieskończonych szeregów. Szereg nieskończony u Newtona staje się szeregiem funkcyjnym, uogólnieniem wielomianu na przypadek nieskończony. Chcąc obliczyć jego wartość należy sumować kolejne wyrazy tak długo, aż osiągniemy zadaną dokładność: im więcej wyrazów uwzględnimy, tym dokładniejszy będzie wynik. Newtonowi udało się odgadnąć, uogólniając metody Wallisa, postać rozwinięcia na szereg dowolnej ułamkowej lub ujemnej potęgi dwumianu – tzw. szereg dwumianowy (wzór na potęgę dwumianu dla wykładników naturalnych znany był dużo wcześniej, choć nosi on dziś nazwę dwumianu Newtona). Dzięki swemu szeregowi Newton potrafił znaleźć rozwinięcia wielu ważnych funkcji, jak arcus sinus czy logarytm. Rozwinięcia takie miały nie tylko znaczenie teoretyczne, ale również ułatwiały obliczanie tablic funkcji i Newton zafascynowany swym odkryciem obliczył wartość ln 1,1 z dokładnością przeszło 50 cyfr dziesiętnych – „po prostu wstyd mi się przyznać, do ilu cyfr doprowadziłem te rachunki” – napisał wiele lat później do Leibniza.
Oprócz poszczególnych wyników Newton sformułował w tym czasie ogólną metodę rozwiązywania zagadnień dotyczących linii krzywych. Istotną ideą było traktowanie linii krzywej w sposób kinematyczny jako zakreślanej przez poruszający się punkt. Podejście takie stosował wcześniej Barrow. Wiele lat później Newton twierdził, że już nie pamięta, czy właśnie pod wpływem Barrowa zaczął rozważać krzywe na sposób kinematyczny. W takim ujęciu zagadnienia dotyczące stycznych, promienia krzywizny (określenie wprowadzone przez Newtona) itd. można sformułować jako dotyczące prędkości ruchu punktu poruszającego się po krzywej. Początkowo tak właśnie: ruchami (motions) lub prędkościami (velocities), nazywał to, co potem nazwał fluksjami (od fluxus – płynący), a dziś nazywa się pochodnymi. Same zmienne wielkości nazywał fluentami. Podstawowe dwa problemy nowego przedmiotu można było przedstawić jako znajdowanie drogi przebytej przez punkt, gdy znana jest jego prędkość w każdej chwili, oraz znajdowanie chwilowej prędkości, gdy znana jest droga jako funkcja czasu. Problemy te (i ich mniej oczywiste geometryczne odpowiedniki) są odwrotne wzgledem siebie; wiedział o tym Barrow i niektórzy matematycy przed nim. Dopiero jednak u Newtona wiedza ta po raz pierwszy została połączona w jeden przedmiot o wspólnych podstawach. Jesienią 1666 r. w rękopisie zaczynającym się od słów: „Do rozwiązania zadań za pomocą ruchu wystarczą następujące twierdzenia” (To resolve Problems by Motion these following Propositions are sufficient), pokazał, jak rozwiązywać zadania dotyczące stycznych, pól, długości łuków, środków ciężkości, punktów przegięcia itd. Metoda wciąż jeszcze nie miała nazwy. Nikt również o niej nie wiedział, choć jak uważa D.T. Whiteside, wydawca matematycznej spuścizny Newtona, narodził się w ciągu dwóch lat matematyk równy Christiaanowi Huygensowi i Jamesowi Gregory’emu, a przewyższający pozostałych współczesnych.
W tym czasie James Gregory przebywał w Padwie, gdzie w 1667 r. miał opublikować rozprawę zawierającą m.in. bardzo dokładne obliczenia pola koła i hiperboli. Starszy zaś i już sławny Huygens skuszony dobrymi warunkami przez Colberta przeprowadził się do Paryża, aby podjąć obowiązki w powstającej Akademii Nauk.
Praktyczne nastawienie Newtona i jego zamiłowanie do metod przybliżonych nie oznaczało nigdy lekceważenia ścisłości. Tam, gdzie możliwe było ścisłe rozwiązanie, należało je oczywiście znaleźć. Oprócz ogólnych metod Newton pozostawił wiele wyników w różnych działach matematyki, nawet takich jak teoria liczb czy algebra. Na przykład odkryta przez niego reguła znajdowania ilości zespolonych (niemożliwych – jak wtedy mówiono) pierwiastków równania algebraicznego została udowodniona dopiero w 1865 r. przez Sylvestera. Inne podobne reguły w rękopisach Newtona wciąż czekają na swego Sylvestera.
W roku 1667 lub na początku 1668 Newton zajął się klasyfikacją krzywych trzeciego stopnia. Kartezjusz zajmował się głównie krzywymi drugiego stopnia, tzn. takimi, których równanie jest wielomianem kwadratowym. Są to znane ze szkoły krzywe stożkowe: elipsa, parabola i hiperbola. Znano wówczas tylko pojedyncze przykłady krzywych wyższych stopni i dopiero geometria analityczna pozwoliła na ich systematyczne badanie. Problem jest bez porównania bardziej złożony niż dla krzywych stopnia drugiego. Klasyfikacja obejmowała bowiem 72 przypadki. Newton starannie rozważył wszystkie możliwości, wykonał wykresy, zanalizował własności krzywych trzeciego stopnia i podał niemal kompletną ich klasyfikację. Pokazał, że wszystkie te krzywe można uzyskać jako rzuty pięciu rodzajów „rozbieżnych parabol”, jak je nazywał. Była to wyprawa w obszary dotąd zupełnie nieznane. Przez wiele dziesiątków lat po jej ogłoszeniu w 1704 r. praca ta nie miała żadnej kontynuacji, z wyjątkiem uzupełnienia o kilka przypadków przeoczonych przez Newtona.
Największe znaczenie miała jednak praca w zakresie rachunku różniczkowego i całkowego, która była zwieńczeniem wysiłków kilku pokoleń nowożytnych matematyków. Newton większość wyników w tej dziedzinie uzyskał w 1665 r., choć i w roku następnym wracał jeszcze kilkakrotnie do matematyki. Pracy swej nie ogłosił jednak nawet wtedy, gdy skończyła się epidemia i powrócił do Cambridge.
W 1668 r. Nicolaus Mercator, urodzony w Danii, a mieszkający w Londynie, późniejszy konstruktor sławnych fontann w ogrodach Wersalu, opublikował dzieło pt. Logarithmotechnia, w którym znalazło się to samo rozwinięcie funkcji logarytmicznej w szereg, które kilka lat wcześniej tak zafascynowało Newtona. Metoda Mercatora była co prawda mniej ogólna, Newton jednak poczuł się zagrożony w pierwszeństwie. Szybko napisał traktat De analysi per aequationes numero terminorum infinitas (O analizie za pomocą równań o nieskończonej ilości wyrazów), który za pośrednictwem Barrowa został przesłany do Johna Collinsa, londyńskiego matematyka utrzymującego kontakt listowny i osobisty z wieloma znanymi uczonymi.
Tytuł nawiązywał do określenia algebry jako „analizy” przez Vietę:
I to, czego zwyczajna analiza dokonuje za pomocą równań złożonych ze skończonej liczby wyrazów (kiedy tylko jest to możliwe), ta metoda może zawsze dokonać za pomocą równań nieskończonych […]; cyt. w [23].
Metoda szeregów stała się dla Newtona uniwersalnym narzędziem pozwalającym rozwiązywać wszelkiego typu równania, termin „analiza matematyczna” do dziś oznacza dziedzinę wyrosłą z badań Newtona i Leibniza. W traktacie Newton pokazał, jak rozwijać ułamki, pierwiastki oraz ich dowolne kombinacje w szereg nieskończony, jak za pomocą takich szeregów rozwiązywać dowolne równania funkcyjne, podał również wiele przykładów, w tym po raz pierwszy rozwinięcia w szereg funkcji wykładniczej oraz funkcji sinus i cosinus. Opisał też krótko związek między szeregami a szukaniem stycznych.
Traktat pisany był dla zapewnienia sobie priorytetu, ale nie znaczy to, że zawierał wszystkie wyniki Newtona. Nie było w nim szeregu dwumianowego, lecz jedynie przykłady rozwinięć w szereg, aby wykazać, iż metoda Newtona była ogólniejsza niż Mercatora. Nie znaczy to również, że Newton zdecydowany był na opublikowanie traktatu. Chodziło raczej o uzyskanie w osobie Collinsa świadka w swojej sprawie niż ogłaszanie odkrycia. Traktat przesłany był Collinsowi do przejrzenia, po czym miał być zwrócony autorowi. Niezbyt dyskretny Collins przepisał go i pokazywał albo pisał o jego treści swoim licznym korespondentom, m.in. Gregory'emu, Borellemu, Sluzjuszowi. Collins wszelako nie zdawał sobie w pełni sprawy z wagi wyników Newtona. Trudno go o to winić – nie był wybitnym matematykiem ani nie wiedział, jak płodne mogą być metody rachunku fluksji. Gdy w latach siedemdziesiątych De analysi dostało się w ręce Leibniza, najciekawsze były dla niego wyniki dotyczące szeregów, to natomiast, co w traktacie dotyczyło fluksji nie było sformułowane na tyle jasno, żeby Leibniz, sam już zaawansowany w rachunku różniczkowym, dostrzegł coś nowego dla siebie.
Przez kilka następnych lat w korespondencji z Collinsem rozważane były projekty publikacji rozmaitych prac Newtona. Trudno było znaleźć wydawcę, a i sam Newton wciąż nie mógł się zdecydować, w końcu sprawa upadła. W ten sposób najważniejsze odkrycia Newtona w matematyce nie zostały w porę ogłoszone, choć właśnie w tym czasie metoda fluksji uzyskała zarówno swą nazwę, jak i doskonalszą postać w rękopisie z 1671 r., który był wypożyczany jedynie wybranym osobom i przez kilka dziesięcioleci szerzej nie znany. Jego opublikowanie przyspieszyłoby zdecydowanie rozwój analizy i najprawdopodobniej byłoby bodźcem do dalszego rozwijania metody przez samego Newtona.
Intensywne badania matematyczne Newtona trwały kilka lat. Później wracał do nich od czasu do czasu, na ogół jednak pod wpływem zewnętrznych przyczyn: w zawsze spóźnionych próbach zapewnienia sobie priorytetu przez opublikowanie jakiejś starej pracy albo, jak w okresie pisania Principiów, w celu rozwiązania problemów stawianych przez fizykę. Principia stanowią osobny rozdział matematycznej pracy Newtona. Zawierają wprawdzie wiele ważnych wyników matematycznych, lecz przeważnie nie korzystają wprost z metody fluksji. Ich powstanie nie byłoby wszakże możliwe, gdyby nie głębokie opanowanie przez Newtona metod i pojęć analizy matematycznej. Toteż najważniejszym dla historii skutkiem wczesnych prac Newtona okazała się matematyczna strona Principiów. Możliwość bezpośredniego wpływu na rozwój matematyki została jednak zaprzepaszczona.