18 Kasım 1957 tarihinde İstanbul'da doğdu. Babası tanınmış yazar Aziz Nesin, annesi Meral Çelen'dir. İlkokuldan sonra ortaokulu İstanbul'da Saint Joseph Lisesi'nde, liseyi de İsviçre'nin Lozan kentindeki College Champittet'de tamamladı.1977-1981 yılları arasında Paris Diderot Üniversitesi'nden matematikten "maitrise" derecesini aldı. Daha sonra ABD'de Yale Üniversitesi'nde matematiksel mantık ve cebir konularında doktora yapan Ali Nesin, 1985-1986 arasında Kaliforniya Üniversitesi Berkeley Kampüsü'nde öğretim üyesi olarak çalıştı. Türkiye'ye kısa dönem askerlik görevi için geldiği sırada erlerin aynı şırıngadan aşı olmasına itiraz ettiği için "orduyu isyana teşvik" iddiasıyla tutuklanarak yargılandı.Yargılanma sonunda beraat etti.
1987-1989 arasında Notre Dame Üniversitesi'nde yardımcı doçent, ardından 1995'e kadar Kaliforniya Üniversitesi Irvine Kampusü'nde doçent ve daha sonra profesör olarak görev yaptı. 1993-1994 öğretim yılını Bilkent Üniversitesi'nde misafir öğretim görevlisi olarak geçirdi. Babası Aziz Nesin'in 1995'te ölümü üzerine yurda kesin dönüş yaptı ve Nesin Vakfı yöneticiliğini üstlendi.
1996'dan beri Bilgi Üniversitesi Matematik Bölümü Başkanı olan Ali Nesin dört çocuk sahibidir. Kasım 2004'ten beri de Nesin Yayınevi genel yönetmenliğini yapmaktadır ve 2011 yılından itibaren Hrant Dink Vakfı danışma kurulu üyesidir.
Ali Nesin'in Matematik ve Korku, Matematik ve Doğa, Matematik ve Sonsuz, Matematik ve Oyun, Develer ve Eşekler, Matematik Canavarı ve Matematik ve Gerçek adlı popüler matematik kitaplarının yanı sıra, Önermeler Mantığı, Sayma ve Sezgisel Kümeler Kuramı gibi yarıakademik matematik kitapları ve henüz birinci, ikinci ve dördüncü ciltleri yayımlanan Analiz kitapları mevcuttur. Bunların yanı sıra çeşitli dergilerde çıkmış bilimsel makaleleri ve Alexander Borovik ile birlikte yazdığı İngilizce bir kitabı (Groups of Finite Morley Rank), babası Aziz Nesin'in Osmanlıca el yazılarından çevirileri bulunmaktadır.
Ali Nesin'in babası Aziz Nesin ile mektuplaşmaları (diğer kitapları gibi) Nesin Yayınevi tarafından iki cilt olarak yayımlanmıştır. Matematiksel araştırma alanı "Morley mertebesi sonlu gruplar"dır. Aynı zamanda, 2003'ten beri üç ayda bir yayımlanan ve Türk Matematik Derneği'nin sahibi olduğu Matematik Dünyası adlı derginin sorumlu yazı işleri müdürüdür. Ayrıca, TÜBA (Türkiye Bilimler akademisi) tarafından kabul edilmiş kümeler kuramı ve analiz konularında ders notları bulunmaktadır.
Matematik araştırmaları, bölüm başkanlığı ve Nesin Vakfı yöneticiliğinin yanı sıra yağlı boya resim, desen ve portre çalışmaları da yapmaktadır. Türkiye İnsan Hakları Kurumu Vakfı (TİHAK) kurucu üyesidir. Nesin Matematik Köyü'nün kurucusudur.
Nesin, Ağustos 2018'de Uluslararası Matematikçiler Kongresi tarafından dört yılda bir verilen Leelavati Ödülü'ne layık görüldü