Messo in contatto con Ottavio Tassi dall’ex-popolare Stefano Mussini, Giovanni Rossi aderisce alla Resistenza sin dall’autunno 1943. Diventa il primo comandante della formazione sassolese che raggiunge l’Appennino a inizio novembre. Abile comandante, non esplicita mai una precisa appartenenza politica e vuole che il proprio gruppo mantenga un’identità interpartitica, per questo la sua nomina a comandante è supportata sia da Tassi che da Mussini.
Nel gruppo non mancano problematiche legate al difficile carattere di Rossi e alla sua volontà di mantenere autonoma la formazione. In seguito ad una lite generata da queste differenze di vedute di carattere militare, nel febbraio 1944 Rossi viene ucciso nel sonno da Zuilio Rossi.