W 1946 r. został aresztowany pod zarzutem nielegalnego posiadania broni. Udało mu się zbiec W 1947 r. przystąpił do oddziału niepodległościowego „Wiarusy”,złożonego głównie z dawnych partyzantów Zgrupowania Partyzanckiego „Błyskawica”. i otrzymał pseudonim „Zbieg”. Po październiku 1947 r. ukrywał się na własną rękę. Do oddziału powrócił w lipcu 1948 r. Przyjął nowy pseudonim – „Groźny”. Uczestniczył w akcjach m.in. w Czorsztynie, Białce, Grywałdzie, Szczawie i Gronkowie. Partyzanci podejmowali akcje wymierzone m.in. we współpracowników komunistycznej bezpieki. Przez krótki czas, w lipcu 1949 r., Jan Jankowski był ostatnim dowódcą oddziału partyzanckiego „Wiarusy”.
Został aresztowany 24 lipca 1949 r. na polanie Surówki w masywie Lubonia Wielkiego. 28 listopada 1949 r. komunistyczny sąd skazał Jankowskiego na karę śmierci. Wyrok wykonano 12 stycznia 1950 r. Odnalezione 17 października 2017 r. podczas prac ekshumacyjnych prowadzonych przez IPN na Cmentarzu Rakowickim szczątki Jana Jankowskiego uroczyście pochowano 17 października 2025 r. w kwaterze wojennej żołnierzy podziemia niepodległościowego na Cmentarzu Rakowickim w Krakowie.