Sous-gradient

Un article de Wikipédia, l'encyclopédie libre.

une fonction convexe (en bleu) et les "lignes sous-tangentes" en x0 (rouge).
une fonction convexe (en bleu) et les "lignes sous-tangentes" en x0 (rouge).

En mathématiques, les concepts de sous-dérivées, sous-gradients, et sous-différentielles interviennent en analyse, plus précisément dans l'étude des fonctions convexes, elles-même liées à l'optimisation convexe.

Soit f:I→R une fonction à valeurs réelles définie sur un intervalle ouvert de la droite réelle. Une telle fonction peut ne pas être différentiable en tout point, par exemple, c'est le cas de la valeur absolue, f(x)=|x|. Cependant, la fonction f vérifie la propriété suivante: pour tout x0 dans le domaine de définition de la fonction, il est possible de tracer une droite passant par (x0,f(x0)) et ne coupant jamais le graph de f (il est possible d'avoir des point de tangence). L'ensemble des pentes de toutes les droites vérifiant la précédente propriété en un point x est appelé sous-gradient de f en x.

Sommaire

[modifier] Définition

De manière rigoureuse, la sous-dérivée d'une fonction convexe f:I→R en un point x0 de l'intervalle ouvert I est un nombre réel c tel que

f(x)-f(x_0)\ge c(x-x_0)

pour tout x dans I. On peut montrer que l'ensemble des sous-dérivées en x0 est un ensemble non vide et un intervalle fermé de la forme [a, b], avec a et b les bornes.

a=\lim_{x\to x_0^-}\frac{f(x)-f(x_0)}{x-x_0}
b=\lim_{x\to x_0^+}\frac{f(x)-f(x_0)}{x-x_0}

que l'on sait exister et vérifier a ≤ b.

L'ensemble [a, b] de toutes les sous-dérivées est appelé la sous-différentielle de la fonction f en x0.

[modifier] Exemples

Considérons la fonction f(x)=|x| qui est convexe. Alors, la sous-différentielle à l'origine est l'intervalle [−1, 1]. La sous-différentielle en n'importe quel point x0<0 est le Singleton {−1}, alors que la sous-différentielle en n'importe quel point x0>0 est le singleton {1}.

[modifier] Propriétés

  • Une fonction convexe f:I→R est différentiable en x0 si et seulement si la sous-différentielle ne contient qu'un seul point, qui est alors la dérivée de f en x0.
  • Un point x0 est un minimum local de f si et seulement si zéro est contenu dans la sous-différentielle, c'est-à-dire, dans la figure ci-dessus, on peut tracer une droite horizontale "sous-tangente" au graphe de f en (x0, f(x0)). La dernière propriété est une généralisation du fait que la dérivée d'une fonction dérivable en un minimum local est nulle.

[modifier] Le sous-gradient

Les concepts de sous-dérivées et sous-différentielles peuvent être généralisés aux fonctions de plusieurs variables. Si f:U→ R est une fonction à valeurs réelles et convexe définie sur un convexe ouvert dans un espace euclidien Rn, un vecteur v dans cet espace est appelé sous-gradient (subgradient) au point x0 dans U si pour tout x dans U on a:

f(x)-f(x_0)\ge v\cdot (x-x_0)

avec le point désignant le produit scalaire. L'ensemble de tous les sous-gradients en x0 est appelé la sous-différentielle en x0. La sous-différentielle est toujours un ensemble compact, non vide et convexe.

Ces concepts se généralisent un peu plus aux fonctions convexes f:U→ R sur un ensemble convexe dans un ensemble localement convexe V. Une fonctionnelle v* dans l'espace dual V* est appelée sous-gradient en x0 dans U si on a

f(x)-f(x_0)\ge v^*(x-x_0).

L'ensemble de tous les sous-gradients en x0 est appelé la sous-différentielle en x0. La sous-différentielle est toujours un ensemble fermé et convexe. Elle peut aussi être vide, par exemple, considérons un opérateur non borné, qui est convexe, mais n'a pas de sous-gradients. Si f est continue, la sous-différentielle n'est pas vide.

[modifier] Références

  • Jean-Baptiste Hiriart-Urruty, Claude Lemaréchal, Fundamentals of Convex Analysis, Springer, 2001. ISBN 3-540-42205-6.