Его отец был солдатом в отставке, участником Первой мировой войны, мать — индианкой из племени чероки.
31 июля 1980 года Джон был арестован за хранение и употребление наркотиков и приговорён к восьми годам заключения, однако позже срок был сокращён до 30 дней.
Его первой женой стала Сьюзан Адамс. От первого брака родились сын Джеффри и дочь Лаура МакКензи Филлипс.
В 1998 году Джон перенёс серьезную операцию — трансплантацию искусственной печени. После этого он крайне редко появлялся на публике.
Филлипс был участником популярной группы «Mamas & Papas».