Für Funktionen mit 1, 2 oder auch mehr Variablen werden lokale Extrempunkte (Minima und Maxima) und Sattelpunkte bestimmt.
Im Falle von 2 oder mehr Variablen kann man bis zu 2 Nebenbedingungen angeben.
Für die Suche nach Extremstellen mit Nebenbedingungen wird die Methode der Lagrange-Multiplikatoren verwendet.
Dazu werden alle ersten und zweiten partiellen Ableitungen der Zielfunktion bzw. der Lagrange-Funktion und die geränderte Hesse-Matrix erstellt und ausgegeben.
Lagrange-Multiplikatoren
Für eine mehrdimensionale Optimierungsaufgabe mit Nebenbedingungen wird pro Nebenbedingung
jeweils ein zusätzlicher Parameter als Lagrange'scher Multiplikator (λi) eingeführt.
Die Nebenbedingungen werden dann so umgestellt, dass auf der einen Seite
der Gleichung 0 steht.
Die so umgestellte Bedingung wird mit dem zughörigen
Multiplikator multipliziert und dann zur untersuchten Zielfunktion addiert.
Das ergibt dann die Lagrange-Funktion, die nun zusätzlich zu den ursprünglichen Veränderlichen
auch noch von den eingeführten Multiplikatoren abhängt.
Notwendige Bedingung
Notwendig für die Existenz eines lokalen Extremums einer mindestens einmal partiell differenzierbaren
Funktion ist,
dass sämtliche partiellen Ableitungen 1. Ordnung nach allen ihren n Veränderlichen 0 sind.
Diese Forderung liefert somit ein Gleichungssystem von n Gleichungen.
Das gilt zunächst für Optimierungsaufgaben ohne Nebenbedingungen.
Aber auch für die Bestimmung von Extrempunkten mit Nebenbedingungen gilt diese
Forderung und zwar jetzt für die Lagrange-Funktion.
Löst man dieses Gleichungssystem, so erhält man alle sogenannten stationären Punkte.
Aber nicht jeder stationäre Punkt ist ein Extremum.
Klassifikation der stationären Punkte
Stationäre Punkte lassen sich klassifizieren in Minima (min), Maxima (max) und Sattelpunkte (s.p.).
Im Falle einer Funktion f(x) von nur einer Veränderlichen untersucht man die Folge von n-ten Ableitungen (n=2,3,4...)
f''(xs), f'''(xs), f''''(xs), ...
n sei in dieser Folge das erste Mal, für das f(n)(xs) ≠ 0 erfüllt ist. Dann gilt:
Ist diese Ordnung n eine gerade Zahl, so liegt ein Sattelpunkt vor, anderfalls ein Extremum und für das gilt:
Ist f(n)(xs) > 0, dann gibt es bei xs ein Minimum (Tiefpunkt).
Ist f(n)(xs) < 0, dann gibt es bei xs ein Maximum (Hochpunkt).
Für eine numerische Untersuchung ist es allerdings einfacher die nahe Umgebung des jeweiligen stationären Punktes zu untersuchen
und dann anhander der Funktionswerte zu entscheiden welche Art stationären Punktes vorliegt.
Im Falle einer Funktion von mehreren Veränderlichen ohne Nebenbedingungen untersucht man die n×n Hesse-MatrixH.
Diese besteht aus allen denkbaren partiellen Ableitungen 2. Ordnung der Zielfunktion nach den n Veränderlichen: hi,k=∂2f/∂xi∂xk.
Hat H(xs) nur positive Eigenwerte, liegt bei xs ein Minimum (Tiefpunkt) vor.
Hat H(xs) nur negative Eigenwerte, liegt bei xs ein Maximum (Hochpunkt) vor.
Hat H(xs) negative und positive Eigenwerte und keinen Eigenwert 0, liegt bei xs ein Sattelpunkt vor.
Hat H(xs) 0 als Eigenwert und sonst nur positive Eigenwerte, liegt bei xs ein Sattelpunkt oder Minimum vor.
Hat H(xs) 0 als Eigenwert und sonst nur negative Eigenwerte, liegt bei xs ein Sattelpunkt oder Maximum vor.
Hat H(xs) 0 als n-fachen Eigenwert, dann kann man für xs weiter keine Aussage treffen.
Sollte keine Aussage mittels der Eigenwerte möglich sein, muss man auch hier die Umgebung der stationären Punkte untersuchen.
Im Falle einer Funktion von mehreren Veränderlichen mit Nebenbedingungen verwendet man die geränderte Hesse-Matrix.
Die geränderte Hesse-Matrix besteht aus allen denkbaren partiellen Ableitungen 2. Ordnung der Lagrange-Funktion nach den n Veränderlichen und den k eingeführten Lagrange-Multiplikatoren.
Sie hat daher bei k Nebenbedingungen und n Unbekannten die Ordnung m×m, mit m = k+n.
Die gegenüber einer Hesse-Matrix zusätzlichen k Zeilen und Spalten bilden eine Berandung der darunter liegenden eigentlichen Hesse-Matrix.
Für die Klassifikation wird der Vorzeichenwechsel der Hauptminoren der geränderte Hesse-Matrix untersucht.
Hinweis:
Für das Rechnen "von Hand" ist es häufig einfacher eine Nebenbedingung nach einer der Veränderlichen aufzulösen
und damit diese Veränderliche in der zu optimierenden Zielfunktion zu ersetzen.
Für die Zielfunktion
f(x,y) = x^4 + y^4 + 8*x^3
mit der Nebenbedingung
x + y = 0
erhält man durch Auflösen der Nebenbedingung nach y die Substitutionsgleichung
y = -x.
Eingesetzt in die Zielfunktion ergibt das:
f(x,-x) = 2*x^4 + 8*x^3.
Abgeleitet nach der einen verbleibenden Unbekannten: df/dx = 8*x^3 + 24*x^2 = 8*x^2*(x+3).
Die 1. Ableitung hat somit Nullstellen bei x=0 und x=-3.
Man erhält dann mit Hilfe der Substitutionsgleichung die zugehörigen y-Werte und damit die stationären Punkte (0/0/0) und (-3/3/-54).
Der Punkt (0/0/0) erweist sich dann als Sattelpunkt.
Der Punkt (-3/3/-54) ist ein lokales Minimum.