Lai begann seine Karriere als Begleitmusiker – er spielte Akkordeon – von Edith Piaf und Yves Montand, für die er dann auch Lieder schrieb. Nach einer Begegnung mit Regisseur Claude Lelouch in den 1960er Jahren wandte er sich der Filmmusik zu und komponierte für das 1970 erschienene Filmmelodram „Love Story“ den Soundtrack. Vor allem der Haupttitel „Where do I begin?“ wurde in Versionen von Stars wie Shirley Bassey und Andy Williams zu einem weltweiten Erfolg. Für diese Musik erhielt Lai einen Oscar. „Love Story“ nach dem Bestseller von Erich Segal war ein Riesenerfolg, die Hauptdarsteller Ali McGraw und Ryan O‘Neal wurden zu Weltstars. Die Stimmung des Films wurde zu einem großen Teil von Lais Musik geprägt – vor allem von der „Schicksalsmelodie“ (die deutsche Version von „Where do I begin“ sang Karel Gott).

Bereits 1966 hatte Lai mit seiner Musik für Lelouchs Film „Ein Mann und eine Frau“ auf sich aufmerksam gemacht. Der Titel „Dabadabada“ daraus wurde unzählige Male gecovert. „Er war der Mann meines Lebens, ein Engel verkleidet – als Akkordeonspieler“, sagte Lelouch gestern.