ВІА "Водограй" був створений в Дніпропетровській філармонії в 1974 році, основу його склали досвідчені джазові музиканти з біг-бенду Володимира Марховського - саксофоніст Олександр Шаповал, клавішник Олег Коська, барабанщик Анатолій Гуров, басист Олександр Іщук, а солістами стали Людмила Артеменко (екс- "Смерічка") і Віктор Шпортько.
Досить швидко ансамбль домігся визнання - естрадний композитор № 1 в СРСР Давид Тухманов довірив "Водограю" запис музики до телефільму "Дорогий хлопчик", а в 1976 році музиканти вже записали дебютний диск-гігант. Платівка вийшла вельми еклектичною - патріотика і традиційна (не шлягерного) естрада розбавлялася високопрофесійними джаз-роковими обробками народних пісень та інструментальними п'єсами О. Коська.
Людмила Артеменко тричі ставала лауреатом другої премії - спочатку на конкурсі виконавців радянської пісні у Москві в 1977 році, потім двічі поспіль на телеконкурсі "З піснею по життю". У 1979 році третє місце на цьому ж конкурсі здобув Віктор Шпортько, після чого був запрошений до київського мюзик-холу. Його замінив Олег Хоменко - на концертах величезним успіхом користувалася виконувана ним арт-рокова пісня О. Шаповала на вірші О. Блока "Дівчина співала в церковному хорі" - на жаль найкраще творіння "Водограю" так і не було записано.
У 1979 році нова програма гурту була розділена "Мелодією" на три міньйони - найцікавішою виявилася пластиночка з джаз-роковим репертуаром. Музикантам стали набридати філармонійні ВІА-обмеження - першим пішов О. Коська, в 1980 році він створив джаз-рокову групу "Кредо". Через рік "Водограй" залишив його засновник - А. Шаповал - він очолив джаз-оркестр Київського театру естради. Досить швидко склад ансамблю повністю змінився - залишилася тільки Людмила Артеменко, яка і стала художнім керівником; згодом вона була удостоєна звання заслуженої артистки України. Відсутність самобутніх шлягерів привела до того, що "Водограй" поступово втрачав свою популярність. Справи пішли трохи краще з приходом в 1989 році нового музичного керівника Ігоря Семендяєва (екс-"Краяни").
У 2005 році лейбл "Астра" випустив CD "Водограй" - збірка складена із записів різних років з архіву Олександра Шаповала.