Sus primeros trabajos los tuvo en Santa Fe, y comenzó a ser delegado sindical en San Nicolás, provincia de Buenos Aires. Fue miembro activo de la Resistencia Peronista. Fue dirigente gremial en SOMISA y en 1960 asumió la Secretaría de Prensa de la Unión Obrero Metalúrgica, acompañando a Vandor, Paulino Niembro, Avelino Fernández y Lorenzo Miguel. En 1964 fue designado interventor en la seccional San Nicolás, donde luego fue secretario general. Mantuvo una fuerte polémica, incluso con solicitadas en los diarios, con Agustín Tosco, que representaba una posición más combativa y de izquierda.
En 1970 fue designado secretario general de la CGT y desde allí fue uno de los impulsores del regreso de Juan Domingo Perón al país.
Cuando este hecho se produjo en noviembre de 1972, había una fuerte lluvia y Rucci fue quien sostuvo el paraguas para proteger a Perón cuando descendió del avión, imagen que fue muy difundida por los medios.
En 1973 Rucci formaba parte de la comisión encargada del retorno de Perón a la Argentina, para el 20 de junio, donde se produjo la masacre de Ezeiza. A las 12:11 del 25 de septiembre de 1973, Rucci fue asesinado a tiros cuando salía de la casa en el barrio de Flores. El General, que había sido elegido Presidente por tercera vez expresó ante la noticia: «…me cortaron las patas».
Montoneros negó enfáticamente la autoría del hecho. En 1997, Roberto Cirilo Perdía escribió: «Las balas que segaron su vida pudieron haber partido desde diferentes trincheras. Pero la mayor parte de las miradas apuntaron hacia nosotros. Más allá de quien haya sido el ejecutor material de este hecho, nosotros pagamos su costo político (…) Desde todo punto de vista la muerte de Rucci favoreció el avance de las políticas opuestas a nosotros (…) La actividad paramilitar del Estado contra nosotros encontró una excusa para fortalecer su accionar».