>>121876088 (OP)
продифференцируй обе части по х и получишь обычное линейное уравнение с постоянными коэффициентами. Потом, возможно, надо будет найденное решение подставить в исходное уравнение и найти константу.

>>121877080
производная интеграла с переменным верхним пределом это подынтегральная функция, если что.

>>121877519
продифференцировали по х:
у'=y+2x
решили уравнение:
y=Cexp(x)-2x-2
подставили в исходное:
Cexp(x)-2x-2=(Сexp(x)-C-x^2-2x)+x^2
Сократили:
-2=-C
Получили константу:
С=2
Написали ответ:
y=2exp(x)-2x-2

>>121876088 (OP)
Это называется интегральное уравнение Вольтерры второго рода и как дифур оно не решается, там посложнее
https://ru.wikipedia.org/wiki/%D0%98%D0%BD%D1%82%D0%B5%D0%B3%D1%80%D0%B0%D0%BB%D1%8C%D0%BD%D0%BE%D0%B5_%D1%83%D1%80%D0%B0%D0%B2%D0%BD%D0%B5%D0%BD%D0%B8%D0%B5_%D0%92%D0%BE%D0%BB%D1%8C%D1%82%D0%B5%D1%80%D1%80%D1%8B

Если будешь решать сам, рекомендую годный задачник (в гугле найдешь):
Краснов, Киселев Интегральные уравнения. Задачи и примеры с подр. решен.