Родился в Полтаве 1 (13) декабря 1846 в семье военного. Окончил Михайловскую артиллерийскую академию в Петербурге (1870), служил в Арсенале, в 1892 вышел в отставку в чине генерал-майора. Учился живописи в Рисовальной школе Общества поощрения художеств у И.Н.Крамского и в Академии художеств (1867–1874). Много путешествовал – по странам Западной Европы, Ближнего и Среднего Востока, Уралу, Волге, Кавказу и Крыму. Был членом (с 1876) и одним из руководителей «Товарищества передвижников». Жил преимущественно в Петербурге и Кисловодске.
Завоевал себе имя островыразительными живописными композициями, взывающими к сочувствию к миру социально-отверженных ("Кочегар", "Заключенный", обе работы – 1878, ГТГ). Протестный пафос, свойственный картинам мастера, выражался в образах "новых людей" ("Студент", 1881, ГТГ; "Курсистка", 1883, варианты в Музее русского искусства в Киеве и Калужском художественный музее) либо в жанровых мотивах социального насилия (арестантский вагон в знаменитом полотне "Всюду жизнь", 1888, ГТГ). Особого рода тревожная, "совестная" экспрессия животворит лучшие портреты работы Ярошенко (П.А.Стрепетова, 1884, ГТГ; Г.И.Успенский, 1884, Картинная галерея, Екатеринбург; Н.Н.Ге, 1890, ГРМ). Однако его кисти принадлежат и более мажорные и умиротворенные образы народной жизни; среди последних наиболее популярна картина "На качелях" (1888, ГТГ).
Умер Ярошенко в Кисловодске 25 июня (7 июля) 1898.
