Johannes werd op 9 februari 1650 in Amsterdam geboren als zoon van de slotenmaker Bejamin Jacobsz Verkolje en Marije Theunisdr.  In december van dat zelfde jaar werd zijn broer Jacob geboren. Ook zijn zussen Margaretha en Pieternelle kwamen in het huis in de Wolvenstraat in Amsterdam ter wereld. In de vlakbij gelegen Nieuwzijds kapel werden alle kinderen gedoopt.

Op een dag was de tien jaar oude Jan aan het spelen met zijn vriendjes. Ze gooiden pijlen, gemaakt van een vogelveer, die voorzien was van een naald, op een schijf. Ongelukkigerwijs raakte de pijl de hiel van Jan en drong er diep in door. De naald brak af, toen ze hem er uit wilden halen. Jan besteedde er geen aandacht meer aan, maar na verloop van weken begon de hiel te ontsteken en pijn te doen. Jan werd door zijn vader naar geneesheer Cornelis in Jisp gebracht. Hij zou drie jaren op bed moeten blijven liggen, omdat hij anders misschien zijn voet zou verliezen. Om zich toch te kunnen vermaken, ging hij prenten bekijken en natekenen. De bekende etser Bronkhorst zou hierbij een rol hebben gespeeld.      Een bekende arts, die in Amsterdam was, Joseph Frans Borro, wist Johannes volkomen te genezen.

Als een bezetene begon Jan boeken te lezen, waarin het perspectief tekenen werd uitgelegd. In minder dan een maand wist hij zich deze techniek eigen te maken. Zijn besluit stond vast: hij wilde schilder worden. Hij tekende enkele stukken van de schilder Gerard van Zijl zo na, dat zijn kopieën zelfs liefhebbers voor de gek hielden. Toch begreep Jan, dat hij het snelst meer zou leren als hij les kreeg. Daarom ging hij in de leer bij Jan Lievens. Deze verzocht hem nog wat stukken af te maken, die Gerard van Zijl vlak voor zijn dood geschetst had. Deze schilderijen werden met succes verkocht en hij kreeg naam. Daarna maakte hij een schilderij in de geest van Gerard van Zijl, waarvan de kunstkenners maar niet begrepen, waarom ze dit beste werk van Van Zijl niet kende. Na zes maanden hield Jan het voor gezien en vertrok bij Jan Lievens. Hij ging zelf aan de slag.

Als een van de eerste Hollandse kunstenaars paste hij de mezzotint toe, de zwarte kunst gravure. Bij de mezzotint werd eerst de hele koperplaat geruwd met een zogenaamd wiegijzer, een instrument met een waaiervormige gekartelde kop, die rijen putjes en braam op de plaat achterliet, waardoor er vloeiende overgangen mogelijk waren tussen de verschillende grijstonen.

Er is een familiewapen bekend, maar helaas geen afbeelding daarvan: Het wapen was verdeeld in vier delen. Deel 1 en 4 waren goud van kleur met de afbeelding van een aambeeld met een rechtopstaande hamer daarop. Deel 2 en 3 waren zilver van kleur met rechts op beide delen een rood hart.

In het "rampjaar 1672 " (de Republiek werd van alle kanten aangevallen) vestigde hij zich via Schipluiden in Delft. In Schipluiden had hij Judith Verheul, de dochter van de chirurgijn Nicolaas Verheul leren kennen. Hij ging daar met haar in ondertrouw en op 8 oktober 1672 was het huwelijk in Delft. Ze gingen hier ook wonen in Delft in de Jacob Gerritstraat.

Daarnaast voltooide hij ook het werk van de advocaat, deurwaarder en kunstverzamelaar Johan de la Faille en het portret van Margaretha, de vrouw van de la Faille.

Op 7 oktober 1674 was de geboorte van Maria en een jaar later op 10 november 1675 kwam Anna ter wereld. Op 28 december 1679 werd Johannes gedoopt,  maar hij overleed al vrij snel op 22 april 1680. Ondertussen was Jan decaan (hoofdman) geworden van het Lucasgilde. Zijn zus Margaretha was in 1679 overleden. Hij maakte drie jaar later van haar postuum een portret.

Op 13 april 1683 beviel Judith van  Johannes . Hij werd 21 april gedoopt.

Het gezin besloot te verhuizen. Op 22 juli 1684 kochten ze het huis "den Swaen" nummer 8-9 in de Wijnstraat. De akte luidde:

"Wij Mr. Pieter Tedingh Berkhout en Dirck Groenewegen van der Made, Schepenen in Delft, oirconde dat Magdalena van der Burgh, Ursula van der Burgh en Maria Glaudina van der Burgh wed. van Philips van Bronsvelt, in sijn leven Secret. tot Monster, mitsgs. d'Heer Outschepen Jacob van der Burgh als executeur van Testamente van wijlen Juffr. Magtelt de Glarges, in haer leven wed. van Isaack van der Burgh, te samen kinderen en erfgen. van vrouw Magtelt de Glarges, aan Johannes Vercolje vercost en voor ons over in vole eigendomme opgedragen hebben Een huis en erve staen en gelegen in Wijnstraet alhier van outs genaemt  den Swaen en nu het houte huijsje, belent te Zuijden Jacob Goere Jansz en ten Noorden de not. Willem van Ruijven voor, en Johannes Blauwcamer agter, streckende voor van den strate met een vrije poort tot en uitcomende op de Oude Delft. (etc.) 22 July 1684 (Waarbrief 5C fol 185) " .

Johan werd geboren, maar overleed en werd op 16 december 1684 begraven. De vader van Judith overleed een jaar later in 1685 en Jan en Judith kregen een derde van de erfenis van Nicolaes Verheul.

Toen beviel Judith op 9 juni 1687 van een meisje:  Johanna. Op 28 februari 1688 overleed Benjamin Verkolje, de vader van Jan. Dat jaar werd ook Johan geboren, maar helaas overleed  hij  en moest op 12 juli 1688 begraven worden. Judith had acht kinderen gebaard, maar drie waren er overleden.

Ondanks alle tegenslag bleef Jan werken en was hij zeer succesvol. Hij genoot het beschermheerschap van belangrijke beschermheren en de rechtbank in Den Haag. Als portretschilder had hij alleen concurrentie van Cornelis de Man in Delft. Zijn zonen Nicolaas en Johannes bleken ook talent te hebben en hij maakte ze tot zijn leerlingen. Jan had ook nog meer leerlingen, zoals Albertus van der Burgh, Johan van der Spriet, Willem Verschuring en Thomas van der Wilt.

Jan schilderde vele bekende figuren, zoals de dominee Cornelius van Aken, de schilder Pieter Jansz van Asch, de burgemeester en historicus Dirk van Bleiswijk. Hij maakte ook portretafdrukken van internationale beroemdheden, die hij tekende naar het werk van anderen.

De meeste schilderijen werden op canvas of paneel geschilderd met olieverf op basis van lijnolie. Dat hechtte beter dan de temperaverf , vervaardigd van ei. De verf kreeg kleur door gebruik te maken van pigment. Pigmenten kwamen uit ertsen en mineralen, zoals omber, oker, houtskool, groene aarde, kwikzilver en sienna. Soms gebruikte men giftige stoffen als cadmium, chromaat en kwiksulfide. Soms werd er hars toegevoegd, zodat er meer kleurintensiteit kwam.

De genreschilderijen van Verkolje tonen typisch elegante figuren in interieurs die zich bezighouden met musiceren of het spelen van games. Vaak zijn de hoofdrolspelers koppels die verkering hebben. Er is altijd een hond aanwezig. Ook heeft hij veel mythologische taferelen gemaakt.

Johannes overleed in zijn huis en werd op 8 mei 1693 te Delft in de Oude kerk begraven. Hij was nog maar 43 jaar en op het hoogtepunt van zijn roem. Zijn zonen zijn later ook bekend geworden.

Dat zelfde jaar verkocht zijn weduwe Judith hun huis voor 4200 gulden.

Jan Verkolje zelfportret met schilderij van zijn vrouw Judith.

          Portret vanCornelis 's Gravezande.