Lord comenzó a estudiar piano a los 9 años por orden de su padre y luego, cuando descubrió el rocanrol, decidió aprender el uso del Hammond y otros tipos de teclados. Comenzó tocando jazz en el colegio secundario, para luego fascinarse con el blues estadounidense, lo que le permitió integrar su dos primeros grupos The Bill Ashton Combo y The Art Wood Combo y a partir de 1964 The Artwoods.

En 1968, ingresó a la banda Roundabout casi al mismo tiempo que el guitarrista Richie Blackmore y juntos decidieron formar Deep Purple, para el cual convocaron al baterista Ian Paice, el bajista Nick Samper y el cantante Rod Samper. Con esa formación editaron en julio de 1968 el álbum "Shades of Deep Purple", que contenía los temas "Hush", "Prelude: Happiness/I'm So Glad", "Mandrake Root" y "Hey Joe". El segundo disco fue "The Book of Taliesyn", que tuvo una buena recepción en Estados Unidos, pero escasa recepción en Gran Bretaña.

La misma formación editó su tercer disco, "Deep Purple", pero en plena gira, Blackmore y Lord se mostraron disconformes con la performance de Samper y decidieron convocar a Ian Gillian, quien puso como condición el ingreso de Roger Glover como bajista. Con las dos incorporaciones -la formación que haría historia-, Deep Purple editó en 1969 el disco "Concerto for Group and Orchestra", un concierto de música clásica compuesto por Jon Lord en tres movimientos.

En junio de 1970 salió el nuevo disco "Deep Purple in Rock", en el que la banda mezclaba el hard rock y el heavy con toques sinfonicos a partir de las influencias de Lord y Blackmore, y que contiene "Child in Time", "Speed King", "Hard Lovin` Man", "Flight of the Rat" y "Black Night" que hizo crecer a la banda en popularidad.

En 1971 editaron "Fireball", que contenía los clásicos "Fireball", "Demon's Eye", "The Mule", más los singles "Strange Kind of Woman" y "I`m Alone". El 3 de diciembre de 1971 la banda llegó a la ciudad suiza de Montreux, para grabar en el estudio móvil de grabación de The Rolling Stones, su disco más exitoso "Machine Head", que incluiría el clásico "Smoke on The Water", cuyo riff inicial quedaría en la historia del rock mundial. El disco contiene otros hits "Highway Star", "Space Truckin`", "Lazy", "Pictures of Home" y "When a Blind Man Cries" y la banda se embarca en monstruosas giras por un par de años.

Esos épicos conciertos, quedaron plasmados en el disco en vivo "Made in Japan", que vendió inicialmente 8 millones de copias, al que le siguió el de estudio "Who Do We Think We Are" que contenía "Woman from Tokyo", "Rat Bat Blue", "Mary Long" y "Smooth Dancer".

En 1973, Gillian y Glover abandonan la banda tras años de malas relaciones con Blackmore, por lo que el guitarrista le ofrece el puesto de bajista a Glenn Hughes y al cantante Paul Rodgers, que lo rechaza y en su lugar ingresa el joven David Coverdale. Con esta formación en 1974 editan "Quemar", que contenía "Mistreated", "You Fool No One", "Might Just Take Your Life" y "Lay Down, Stay Down". Lo siguió el "Stormbringer".

En 1976, el grupo se separa y Lord se reúne con Paice y su amigo Tony Ahston para formar "Paice, Ashton & Lord". Dos años después, en 1978 se suma a Whitesnake, la banda formada por David Coverdale, que integró hasta el año 1984 y con los que grabó "Lovehunter", "Ready An` Willing", "Come An' Get It", "Saints & Sinners" y "Slide It In", en la que dejaba plasmada la influencia del blues y la música clásica.

La formación más famosa de Deep Purple se reúne en 1984 y edita un nuevo disco "Perfect Strangers", que marcó su regreso a las Ligas mayores y a las giras. Los problemas entre Gillian y Blackmore ya eran una clásico y a lo largo de los 80 y parte de los 90 ambos entraron y salieron de Purple varias veces hasta que en 1994 el guitarrista fue despedido y reemplazado por David Morse.

Lord junto con Glover, Gillian, Paice y Morse graban los discos "Purpendicular" y "Abandon", hasta que en 2003, el tecladista se retira amistosamente del grupo para descansar y ocasionalmente lanzar algún trabajo solista. En el 2011 reconoce públicamente que padece cáncer.