Муслим Магометович Магомаев родился 17 августа 1942 года в Баку, в творческой семье: отец был театральным художником (он погиб на фронте), мать – драматическая актриса, дед – Муслим Магомаев, известный азербайджанский композитор, имя которого носит Азербайджанская филармония.

Муслим окончил музыкальную школу при Бакинской консерватории по классу фортепиано и композиции, Азербайджанскую консерваторию по классу пения. Первое его выступление состоялось в Баку. Он выступал втайне от семьи, поскольку в семье были против раннего выступления Муслима.