Perales nación en Castejón, un pequeño pueblo de la provincia de Cuenca. Su padre era albañil y su madre ama de casa. Mostró pronto su interés por la música y empezó a tomar clases de solfeo con un antiguo maestro de la localidad. A los dieciséis años, consiguió una beca para estudiar maestría industrial en electricidad en la Universidad Laboral de Sevilla, ciudad a la que fue a vivir. Más tarde, residió en Madrid, trabajando como delineante para el Instituto Nacional de Industria.

En Madrid conoció a su esposa, Manuela Vargas, que era traductora, la futura madre de sus dos hijos. Durante algunos años, combinó sus estudios y trabajo, con la composición de canciones que vendía a discográficas, y que llegaron a interpretar artistas célebres de la época como Fórmula V, Jeanette, Paloma San Basilioo Miguel Bosé.

En 1970, su amigo, el productor Rafael Trabucchelli lo persuadió para que cantara sus propios temas, algo a lo que se había resistido hasta entonces, por considerarse demasiado tímido. Así publicó su primer disco, Mis Canciones, con el que giró por España e Hispanoamérica. Aunque obtuvo de inmediato un gran éxito, ha comentado en varias ocasiones lo duro que le resulta permanecer alejado durante meses de su hogar y su familia. Entre gira y gira, suele retirarse a su residencia en el campo, en su Castejón natal.

Desde entonces, Perales se ha convertido en un nombre esencial para la música española, no sólo por sus propio discos, con temas tan universales como Un velero llamado Libertad o ¿Y cómo es él?, sino por las canciones que ha compuesto para varias generaciones de artistas, de Mocedades, Raphael o Julio Iglesias a Azúcar Moreno, Isabel Pantoja (como el mítico Marinero de luces) y Rosa López. En 2017 compuso la banda sonora de la película El autor de Manuel Martín Cuenca basada en la novela de Javier Cercas.

También ha desempeñado un importante papel como representante de la ONG Aldeas infantiles en España y Latinoamérica, organización a la que ha cedido los derechos de varias de sus canciones. Ha publicado dos novelas, La melodía del tiempo (2015) y La hija del alfarero (2017).

A lo largo de su carrera, José Luis Perales ha obtenido más de 100 discos de oro y platino.