Olmi se narodil v červenci 1931 v Bergamu. Jako filmař začínal s krátkometrážní tvorbou, která zahrnovala zejména dokumenty, ale i několik hraných snímků. Už v nich se zaměřoval na svá oblíbená témata, jako byly střet venkova s industriálním světem města nebo život zdánlivě obyčejných lidí na městské periferii.

První celovečerní film natočil v roce 1959 pod názvem Čas se zastavil. V 60. a 70. letech vytvořil několik televizních snímků, jež zahrnovaly psychologické portréty i historické dokumenty. Za své asi nejznámější dílo Strom na dřeváky z roku 1978 dostal Zlatou palmu na festivalu v Cannes i francouzského Césara za cizojazyčný film.

K Olmiho dalším snímkům patří drama Sto hřebů, poválečný příběh Sapéři či komedie Ať žije paní! V 90. letech natočil biblický příběh Genesis: Stvoření a potopa.