Gotti est mort du cancer de gorge à 12:45 P.M. le 10 juin 2002 au centre médical des Etats-Unis pour les prisonniers fédéraux à Springfield, Missouri, où il avait été transféré quand le cancer avait été diagnostiqué. Sa famille a réclamé qu'il n'avait pas reçu les soins appropriés en prison et ce travail dentaire défectueux avait aggravé la maladie. Après sa mort, le diocèse catholique de Brooklyn a annoncé que la famille de Gotti ne serait pas autorisée à avoir une messe d'enterrement chrétien pour Gotti. L'église a indiqué que la famille de Gotti serait permise d'avoir une messe seulement après son enterrement. L'église catholique avait pris une mesure semblable contre d'autres chefs du crime organisé tels que Paul Castellano ; mais à la différence de Castellano, la famille de Gotti a été autorisée à le faire enterrer dans la mausolée au cimetière de Saint-John dans le Queens, à côté de son fils Frank Gotti.