Mitrochin začal pracovat po absolvování vysoké školy v roce 1948 pro zahraniční složku tehdejší sovětské tajné služby, která se v roce 1954 stala součástí Výboru státní bezpečnosti (KGB).

Byl sice přesvědčeným komunistou, ale zklamal jej neúspěch Chruščovových reforem na přelomu 50. a 60. let minulého století a zejména pak sovětská okupace Československa.

Proto když počátkem sedmdesátých let začal působit v archivu KGB, začal tajně opisovat všechny dokumenty, s nimiž přišel do styku a tajně je vynášet z budovy ven. Později je pro jistotu zakopal na zahradě své chaty.

Kniha svědectví

Po svém příjezdu do Británie použil řadu těchto materiálů k napsání knihy Neznámé špionážní operace KGB - Mitrochinův archiv, na níž se podílel britský historik Christopher Andrew.

Ve svém svědectví tak poprvé v ucelené formě odhalil, jak Rusové verbovali své agenty, jak pracovali v různých částech světa a za čím vším ve světové politice údajně stáli. Kniha vyvolala skandál hlavně v Itálii, kde byli za spolupracovníky Rusů označeni i někteří významní komunisté, kteří kdysi byli členy vládnoucí italské koalice.

Ruská Federální bezpečnostní služba ještě v roce 1999 seznam agentů KGB, který Mitrochin zveřejnil, zpochybnila a dokonce popřela, že by nějaký plukovník Mitrochin existoval. Koncem týdne však o jeho úmrtí informoval například list Komsomolskaja pravda, rozhlasová stanice Echo Moskvy a řada internetových zpravodajských portálů.