Кузьма Сергеевич Петров-Водкин родился 24 октября (5 ноября) 1878 года в городе Хвалынске Саратовской губернии Российской империи, в семье сапожника.
Будучи учеником четырёхклассного городского училища, Кузьма познакомился с двумя местными иконописцами, у которых он мог наблюдать за всеми этапами создания иконы. Под впечатлением он пробует самостоятельно писать иконы и пейзажи масляными красками. В 1893 году он окончил училище.
Проработав лето в судоремонтных мастерских, по осени Кузьма отправился в Самару поступать в железнодорожное училище, но провалился. В итоге оказался в классах живописи и рисования Ф. Е. Бурова. Здесь он получил азы живописного искусства. Однако в 1895 году Буров скончался и образование осталось незаконченным. Позднее Петров-Водкин так вспоминал: «До окончания нашего пребывания у Бурова мы ни разу не попытались подойти к натуре, благодаря чему не получали настоящей ценности знаний».
Кузьма вернулся на родину, где ему помог случай. В Хвалынск приехал знаменитый петербургский архитектор Р. Ф. Мельцер. Он прибыл на Волгу по просьбе своей старой знакомой — помещицы Ю. И. Казарьиной, которая хотела попросить Мельцера выстроить для неё очередной особняк. Мать Петрова-Водкина, Анна Пантелеевна, работала горничной у сестры Казарьиной и показала архитектору рисунки своего талантливого сына. Мельцер был весьма поражён такой живописью и увёз Кузьму Сергеевича в Петербург, где дал хорошее художественное образование в петербургском Центральном училище технического рисования Штиглица. Хвалынские купцы, в том числе и Казарьина, присылали ежемесячно 25 рублей в помощь Кузьме, но тот считал это «подачкой, за которую потом нужно будет благодарить».
Свою работу художника Петров-Водкин начал с создания образа Богоматери с Младенцем на стене церковной апсиды Ортопедического института доктора Вредена в Александровском парке на Петроградской стороне. Для того, чтобы перевести эскиз своей иконы в майолику, Кузьма Сергеевич направился в Лондон, где картину обработали на керамической фабрике «Дультон».
В 1897 году Петров-Водкин переехал в Москву, где поступил в Московское училище живописи, ваяния и зодчества (МУЖВЗ), где учился у Валентина Александровича Серова. В 1900 году работал на керамическом заводе в селе Всехсвятском под Москвой. Окончил МУЖВЗ в 1905 году.
С 1905 по 1908 год занимался также в частных академиях Парижа. В этот период посетил Италию (1905) и Северную Африку (1907). В 1911 году Петров-Водкин стал членом объединения «Мир искусства».
Был одним из членов-учредителей Вольной философской ассоциации (Вольфила, 1919–1924).