بعد حوالى عامين من اضطراره للتخلي عن السلطة لأسباب صحية، توفي آبي في مستشفى في مدينة كاشيهارا بمنطقة نارا، عن 67 عاماً، عقب إطلاق النار عليه خلال تجمع انتخابي الجمعة.
