J.Mockus gimė 1931 m. birželio 18 d. Rokiškyje. 1947 m. baigė Rokiškio vidurinę mokyklą, 1947–1952 m. studijavo Kauno politechnikos institute (dabar – Kauno technologijos universitetas). 1953–1957 m. mokėsi SSRS Mokslų akademijos Energetikos instituto aspirantūroje. 1957 m. apgynė technikos mokslų kandidato (dabar – mokslų daktaro), o 1966 m. – technikos mokslų daktaro (dabar – habilituoto daktaro) disertacijas.
1968 m. J.Mockui suteiktas profesoriaus vardas, 1974 m. išrinktas Lietuvos mokslų akademijos tikruoju nariu, nuo 2007 m. Lietuvos MA narys emeritas. Iki 1969 m. J. Mockus dirbo Lietuvos MA Fizikinių ir techninių energetikos problemų institute Kaune.
1969 m. persikėlė į Vilnių, kur tapo Fizikos ir matematikos institute (vėliau tapusio Matematikos ir kibernetikos institutu, Matematikos ir informatikos institutu) naujai įkurto Optimalių sprendimų teorijos sektoriaus vadovu, po to, iki 2007 m. – Optimizavimo skyriaus vadovu.
J.Mockaus mokslinių tyrimų sritis – globaliojo ir diskrečiojo optimizavimo teorija, metodai, algoritmai, programinė įranga. Ypač paminėtini jo fundamentiniai rezultatai globaliojo optimizavimo teorijos, pagrįstos Bajeso principu, srityje.
J.Mockus yra 4 monografijų autorius: „Daugiaekstremaliniai projektavimo uždaviniai“ (Maskva: Nauka, 1967, rusų k.), „Bayesian Approach to Global Optimization“ (Kluwer Acad. Publ., Dordrecht–London–Boston, 1989), „Bayesian Heuristic Approach to Discrete and Global Optimization“ (su kitais, Kluwer Acad. Publ., Dordrecht–London–Boston, 1997), „A Set of Examples of Global and Discrete Optimization. Application of Bayesian Heuristic Approach“ (2000)] ir per 100 mokslinių straipsnių autorius.
Greta mokslinės veiklos J.Mockus nuo 1969 m. dirbo profesoriumi Kauno technologijos universitete (iki 1990 Kauno politechnikos institutas), vėliau – dar ir Vytauto Didžiojo universitete bei nuo 1999 m. – Vilniaus Gedimino technikos universitete. 2003 m. jam buvo suteiktas Kauno technologijos universiteto, o 2006 m. – Vilniaus Gedimino technikos universiteto garbės daktaro vardas.
Akademikui J.Mockui du kartus skirta Lietuvos mokslo premija: 1968 m. už knygą „Daugiaekstremaliniai projektavimo uždaviniai“ ir 1998 m. už darbų ciklą „Inžineriniai globalinio optimizavimo metodai“. Būdamas vienu iš globaliojo optimizavimo pradininkų pasaulyje, sukūrė tos srities mokslo mokyklą, parengė gausų mokslo daktarų būrį.
Šviesus Akademiko atminimas išliks pažinojusių ir su juo ilgus metus dirbusiųjų atmintyje, sakoma Lietuvos mokslų akademijos nekrologe.