сформулируй основную лемму вариационного исчислени...

Ниже — в классической постановке вариационного исчисления (интегральные функционалы и гладкие допустимые функции).

1) Основная (фундаментальная) лемма вариационного исчисления

Фундаментальная лемма (Дю Буа–Реймона / “основная лемма”).
Пусть $g\in C([a,b])$. Если

$$\int_a^b g(x)\,\eta(x)\,dx = 0 \quad \text{для всех } \eta\in C_0^\infty(a,b) \ (\text{или достаточно } \eta\in C^1,\ \eta(a)=\eta(b)=0),$$

то

$$g(x)\equiv 0 \ \text{на } [a,b].$$

Почему это верно (конкретно): если бы существовала точка $x_0$ с $g(x_0)>0$, то по непрерывности $g>0$ в некоторой окрестности $x_0$. Берём неотрицательную “бугорок”-функцию $\eta\ge 0$, поддержка которой лежит в этой окрестности, и $\eta\not\equiv 0$. Тогда $\int g\eta>0$, противоречие. Аналогично исключается $g(x_0)<0$. Значит $g\equiv 0$.

---

2) Почему нужна гладкость минимум второго порядка (и при чём тут множители)

Рассмотрим стандартный функционал первого порядка:

$$J[y]=\int_a^b F\bigl(x,y(x),y'(x)\bigr)\,dx, \quad y(a)=A,\ y(b)=B.$$

При выводе условия 1-го порядка берут вариацию $y_\varepsilon=y+\varepsilon\eta$ и считают производную:

$$\frac{d}{d\varepsilon}J[y+\varepsilon\eta]\Big|_{\varepsilon=0} = \int_a^b \left(F_y\,\eta + F_{y'}\,\eta'\right)\,dx.$$

Дальше делают интегрирование по частям:

$$\int_a^b F_{y'}\,\eta'\,dx =\Bigl[F_{y'}\,\eta\Bigr]_a^b-\int_a^b \frac{d}{dx}\!\left(F_{y'}\right)\eta\,dx.$$

Граничный член исчезает из-за $\eta(a)=\eta(b)=0$. Остаётся интеграл с $\dfrac{d}{dx}(F_{y'})$.

Где появляется «второй порядок»

Так как $F_{y'}=F_{y'}(x,y(x),y'(x))$, то по цепному правилу

$$\frac{d}{dx}\!\left(F_{y'}\right) =F_{xy'} + F_{yy'}\,y' + F_{y'y'}\,y'',$$

то есть появляется $y''$. Чтобы всё это было обычными (классическими) функциями и чтобы интегрирование по частям было корректным в “гладком” смысле, часто требуют $y\in C^2$ (минимально можно ослаблять до абсолютной непрерывности и т.п., но в классической теории — $C^2$).

А почему “функции-множители” требуют такой же гладкости

В задачах с точечными/дифференциальными связями вводят функцию-множитель Лагранжа $\lambda(x)$ и рассматривают расширенный интегранд, например:

$$\tilde F(x,y,y',\lambda)=F(x,y,y')+\lambda(x)\,g(x,y,y').$$

Тогда в уравнении Эйлера–Лагранжа для $y$ появляется

$$\frac{d}{dx}\Big(\tilde F_{y'}\Big) =\frac{d}{dx}\Big(F_{y'}+\lambda\,g_{y'}\Big) = \frac{d}{dx}(F_{y'}) + \lambda'\,g_{y'}+\lambda\,\frac{d}{dx}(g_{y'}).$$

И снова:

• возникает $\lambda'(x)$ ⇒ нужно хотя бы $\lambda\in C^1$;
• а $\dfrac{d}{dx}(g_{y'})$ содержит $y''$ (как выше);
• если задача высшего порядка (зависимость от $y''$, интегрирование по частям делается два раза), то аналогично возникают $\lambda''$ и требуется $\lambda\in C^2$.

Идея одна: мы дифференцируем по $x$ выражения, где сидит множитель, поэтому чтобы уравнения были “классическими” (без обобщённых производных), множитель должен быть достаточно гладким — обычно не ниже того порядка, который появляется после интегрирования по частям (для функционалов первого порядка в классическом виде обычно берут $C^2$ для экстремали и аналогичную гладкость для функций-множителей, если они входят под производную).

---

3) Для какого типа локального минимума применимо условие 1-го порядка

Обычно формулируют так:

• Слабый локальный минимум: минимум в окрестности по норме $C^1$ (малость и функции, и её производной).
• Сильный локальный минимум: минимум в окрестности по норме $C^0$ (малость только по значению функции).

Необходимое условие первого порядка (нулевая первая вариация / Эйлер–Лагранж) гарантированно выводят для слабого локального минимума.

Почему конкретно: в доказательстве рассматривают семейство $y+\varepsilon\eta$ и надо, чтобы при малых $\varepsilon$ оно оставалось в допустимом классе, где функционал определён и дифференцируем (обычно это $C^1$). Контроль по $C^1$ как раз и означает “малость вариации” в том смысле, в котором берётся производная функционала.

При этом сильный минимум обычно тоже влечёт то же условие (потому что если минимум верен для всех достаточно близких по $C^0$ функций, то, в частности, верен и для близких по $C^1$, а значит первая вариация тоже должна обращаться в нуль). Но “стандартная” теорема и техника — именно про слабый минимум.

---

4) Само необходимое условие 1-го порядка

В форме первой вариации

Если $y^*$ — слабый локальный минимум, то для любой вариации $\eta$ с $\eta(a)=\eta(b)=0$:

$$\delta J[y^*;\eta] :=\frac{d}{d\varepsilon}J[y^*+\varepsilon\eta]\Big|_{\varepsilon=0} =0.$$

Эквивалентно: уравнение Эйлера–Лагранжа

Если $F$ достаточно гладкая, то $y^*$ удовлетворяет на $(a,b)$:

$$F_y\bigl(x,y^*(x),y^{*\prime}(x)\bigr) -\frac{d}{dx}\Bigl(F_{y'}\bigl(x,y^*(x),y^{*\prime}(x)\bigr)\Bigr) =0.$$

Почему “именно так” (конкретно цепочка логики):

1. При минимуме функция $\phi(\varepsilon)=J[y^*+\varepsilon\eta]$ имеет минимум в $\varepsilon=0$ ⇒ $\phi'(0)=0$.
2. Вычисляем $\phi'(0)$ ⇒ получаем интеграл $\int (F_y\eta+F_{y'}\eta')dx$.
3. Интегрируем по частям, чтобы избавиться от $\eta'$, и используем $\eta(a)=\eta(b)=0$.
4. Получаем $\int \bigl(F_y-\frac{d}{dx}F_{y'}\bigr)\eta\,dx=0$ для всех $\eta$.
5. По фундаментальной лемме множитель при $\eta$ обязан быть нулём ⇒ Эйлер–Лагранж.

Если хочешь, могу отдельно расписать тот же вывод для случая с ограничениями и функцией-множителем $\lambda(x)$ (и показать, где именно появляются $\lambda'$ и при каких связях появляется $\lambda''$).