21 stycznia 1921 r. na XVII kongresie socjalistów w Livorno radykalni członkowie partii dokonali rozłamu, w wyniku którego postała Komunistyczna Partia Włoch (PCd’I). Jako sekcja III Międzynarodówki (Kominternu) podporządkowała się ona wzorom sowieckim, stawiając sobie za cel ustanowienie dyktatury proletariatu. Sekretarzem został Amadeo Bordiga. W PCd’I funkcjonowały dwie frakcje: silniejsza początkowo grupa „maksymalistów” Nicolo Bombacciego i turyńska grupa pisma „L’Ordine Nuovo” z Antoniem Gramscim i Palmiro Togliattim. W momencie powstania partia liczyła około 20 tys. członków, których liczba w kolejnych latach jednak spadała.

Flaga Włoskiej Partii Komunistycznej z Livorno. Używano jej na pierwszym kongresie partii. Źródło: Sailko, CC BY 3.0, via Wikimedia Commons
W wyborach powszechnych w 1921 r. komuniści zdobyli 4,6% głosów i 15 mandatów. Pomimo rosnącego zagrożenia ze strony ruchu faszystowskiego i wbrew stanowisku Gramsciego – zwolennika szerokiego ruchu antyfaszystowskiego – kierownictwo partii sprzeciwiało się utworzeniu wspólnego frontu lewicowego z socjalistami, będącymi wówczas liderami lewicy. W 1922 roku doszło do zamachu stanu i do władzy doszedł ruch faszystowski pod przywództwem Benito Mussoliniego. W 1924 roku odbyły się wybory w atmosferze terroru i nadużyć, w których komuniści zyskali 4% głosów. Mandat uzyskał m.in. Gramsci, który powrócił z Moskwy, gdzie przebywał jako przedstawiciel PCd’I w egzekutywie Kominternu
Po zabójstwie przez faszystów socjalistycznego posła Giacomo Matteottiego, PCd’I wraz z socjalistami, katolikami i liberałami, weszła w skład tzw. opozycji awentyńskiej i opuściła parlament. PCd’l jednak wyłamała się ze wspólnego frontu, gdy inne ugrupowania odrzuciły jej projekt strajku generalnego.
Tak jak pozostałe partie opozycyjne, PCd’I została zdelegalizowana. Część członków partii opuściła Włochy, część aresztowano, co doprowadziło do dezorganizacji i osłabienia ugrupowania. Ostatecznie Gramsci, mający poparcie z Moskwy dla swego przywództwa, pokonał frakcję Bordigi i w 1926 r. zdobył akceptację partii dla utworzenia antyfaszystowskiego sojuszu sił lewicowych. W tym samym roku został jednak aresztowany, a w 1928 skazany na 20 lat więzienia, z czego odsiedział 11. Wyrok w jego sprawie zapadł w procesie przeciwko Centralnemu Komitetowi partii, gdzie sądzony był wraz z 36 innymi komunistami.
W 1927 r. sekretarzem partii został przebywający na emigracji Togliatti, po czym, zgodnie z wytycznymi Stalina, zorganizował w niej czystkę. Główny ośrodek działalności PCd’I przeniósł się więc poza granice kraju, przede wszystkim do Francji. Po zmianie polityki sowieckiej w 1934 roku komunistyczni działacze emigracyjni zawarli pakt o jedności działania z socjalistami. Tymczasem we Włoszech komuniści prowadzili działalność konspiracyjną.

Demonstracja poparcia ZSRS, 1948
W maju 1943 r. włoscy komuniści przebywający w Moskwie zmienili nazwę partii PCd’I na Włoską Partię Komunistyczną (PCI). W okresie II wojny światowej odrzucili zasadę izolacji i podjęli współpracę z innymi ugrupowaniami opozycyjnymi. Zajmując radykalne stanowisko, sprzeciwiali się współdziałaniu z monarchią i postulowali obalenie reżymu przez wystąpienia masowe. W 1943 roku korzystając z napięć społecznych i kryzysu gospodarczego, zainicjowali strajki na północy Włoch. Odegrali istotną rolę w partyzanckim ruchu oporu. Tworzone przez nich od 1943 r. Brygady Garibaldiego stanowiły około połowy włoskich sił partyzanckich. Przysporzyło im to popularności w społeczeństwie. W latach 1943-1944 liczba członków partii wzrosła z ok. 6 tys. do pół miliona. Po upadku Mussoliniego w 1943 r. weszli w skład Komitetu Wyzwolenia Narodowego, skupiającego różne siły opozycyjne.
W 1944 r. do Włoch powrócił Togliatti. Zgodnie ze wskazówkami Stalina podjął realizację „polityki kolaboracji klasowej”, która miała zapewnić szerokie wciągnięcie społeczeństwa w walkę przeciwko Niemcom. Odrzucił więc program rewolucyjny i zgodził się na współpracę z królem Wiktorem Emanuelem III i premierem Pietro Badoglio, który został uznany przez ZSRS. Ten „zwrot w Salerno” wywołał szok w partii. W efekcie tych decyzji komuniści wchodzili w skład wszystkich rządów jedności narodowej w latach 1944-1947. Togliatti natomiast otrzymał stanowisko wicepremiera. Z wojny PCI wyszła wzmocniona i stała się partią masową. W 1946 roku ta największa w Europie Zachodniej partia komunistyczna liczyła ponad 2 miliony członków.
Wybory parlamentarne w 1946 roku, do których komuniści szli z hasłami republikańskimi, dały im 19% głosów i trzecie miejsce. Nie minął jednak rok, jak zostali wykluczeni z rządu. Od 1947 r. PCI przeszła do opozycji. W wyborach w 1948 r. uczestniczyła wraz z socjalistami pod mianem Frontu Ludowego, zyskując ok. 30% głosów. Front znajdował oparcie w Kominformie. Wysuwane przez niego w kampanii wyborczej hasła antyamerykańskie wpisywały się w retorykę zimnej wojny.