Théorie des probabilités

Un article de Wikipédia, l'encyclopédie libre.

Courbes de probabilité.

La Théorie des probabilités est l'étude mathématique des phénomènes caractérisés par le hasard et l'incertitude. Les objets centraux de la théorie des probabilités sont les variables aléatoires, les processus stochastiques, et les évènements: ils traduisent de manière abstraite des évènements non déterministes ou des quantités mesurées qui peuvent parfois évoluer dans le temps d'une manière apparemment aléatoire. En tant que fondement mathématique des statistiques, la théorie des probabilités est essentielle à la plupart des activités humaines qui nécessitent une analyse quantitative d'un grand nombre de mesures. Les méthodes de la théorie des probabilités s'appliquent également à la description de systèmes complexes dont on ne connait qu'en partie l'état, comme en mécanique statistique. Une grande découverte de la physique du vingtième siècle fut la nature probabiliste de phénomènes physiques à une échelle microscopique, décrite par la mécanique quantique.

Sommaire

1 Historique
- 1.1 Théorie des probabilités discrète
- 1.2 Théorie des probabilités continue
2 Principes fondamentaux
3 La théorie des probabilités aujourd'hui
4 Lois de probabilité
5 Convergence de variables aléatoires
6 Le calcul stochastique
- 6.1 Chaîne de Markov
- 6.2 Equations aux dérivés stochastiques
7 Voir aussi
- 7.1 Articles connexes
- 7.2 Liens externes

[modifier] Historique

La théorie mathématique des probabilités trouve ses origines dans l'analyse de jeux de hasard par Gerolamo Cardano au seizième siècle, et par Pierre de Fermat et Blaise Pascal au dix-septième siècle. Bien qu'un simple pile ou face ou un lancer de dès soit un évènement aléatoire, en les répétant de nombreuses fois on obtient une série de résultats qui va posséder certaines propriétés statistiques, que l'on peut étudier et prévoir. Deux résultats mathématiques fondamentaux à ce propos sont la loi des grands nombres et le théorème de la limite centrale.

Initialement, la théorie des probabilités considérait surtout les évènements discrets, et ses méthodes étaient principalement combinatoires. Mais des considérations analytiques ont forcé l'introduction de variables aléatoires continues dans la théorie. Cette idée prend tout son essor dans la théorie moderne des probabilités, dont les fondations ont été posées par Andreï Nikolaevich Kolmogorov. Kolmogorov combina la notion d'univers, introduite par Richard von Mises et la théorie de la mesure pour présenter son système d'axiomes pour la théorie des probabilités en 1933. Très vite, son approche devint la base incontestée des probabilités modernes.

[modifier] Théorie des probabilités discrète

La théorie discrète des probabilités s'occupe d'évènements dans le cadre d'un univers dénombrable.

Exemples: Lancer de dés, expériences avec des paquets de cartes, et marche aléatoire.

Définition classique: Initialement, la probabilité d'un évènement était définie comme le nombre de cas favorables pour l'évènement, divisé par le nombre total d'issues possibles à l'expérience aléatoire.

Par exemple, si l'évènement est obtenir un nombre pair en lançant le dès, sa probabilité est donnée par $\tfrac{3}{6}=\tfrac{1}{2}$ , puisque trois faces sur six ont un nombre pair.

Définition moderne : La définition moderne commence par un ensemble appelé univers, qui correspond à l'ensemble des issues possibles à l'expérience dans la définition classique. Il est noté $\Omega=\left \{ x_1,x_2,\dots\right \}$ . Ensuite, on a besoin d'une fonction $f$ définie sur $Ω$ , qui va associer à chaque élément de $Ω$ sa probabilité, satisfaisant donc les propriétés suivantes :

$f(x)\in[0,1]\mbox{ pour tout }x\in \Omega$
$\sum_{x\in \Omega} f(x) = 1$

On définit ensuite un évènement comme un ensemble d'issues, c'est à dire un sous-ensemble de $Ω$ . La probabilité d'un évènement $E$ est alors définie de manière naturelle par :

$P(E)=\sum_{x\in E} f(x)\,$

Ainsi, la probabilité de l'univers est 1, et la probabilité de l'évènement nul (l'ensemble vide) est 0.

Pour revenir à l'exemple du lancer dès, on peut modéliser cette expérience en se donnant un univers $Ω = {1;2;3;4;5;6}$ correspondant aux valeurs possibles du dé, et une fonction $f$ qui à chaque $i\in\Omega$ associe $f(i)=\tfrac{1}{6}$ .

[modifier] Théorie des probabilités continue

La théorie des probabilités continue s'occupe des évènements qui se produisent dans un univers continu (par exemple la droite réelle).

Définition classique: La définition classique est mise en échec lorsqu'elle est confrontée au cas continu (cf. paradoxe de Bertrand).

Définition moderne Si l'univers est la droite réelle $\mathbb{R}$ , alors on admet l'existence d'une fonction appelée fonction de répartition $F\,$ , qui donne $P(X\le x) = F(x)\,$ pour une variable aléatoire $X$ . Autrement dit, $F (x)$ retourne la probabilité que $X$ soit inférieur ou égal à $x$ .

La fonction de répartition doit satisfaire les propriétés suivantes :

$F\,$ est une fonction croissante et continue à droite.
$\lim_{x\rightarrow -\infty} F(x)=0$
$\lim_{x\rightarrow \infty} F(x)=1$

Si $F\,$ est dérivable, alors on dit que la variable aléatoire $X$ a une densité de probabilité $f(x)=\frac{dF(x)}{dx}\,$ .

Pour un ensemble $E \subseteq \mathbb{R}$ , la probabilité que la variable aléatoire $X$ soit dans $E\,$ est définie comme :

$P(X\in E) = \int_{x\in E} dF(x)\,$

Si la densité de probabilité existe, on peut alors la réécrire :

$P(X\in E) = \int_{x\in E} f(x)\,dx$

Tandis que la densité de probabilité n'existe que pour les variables aléatoires continues, la fonction de répartition existe pour toute variable aléatoire (y compris les variables discrètes) à valeurs dans $\mathbb{R}$ .

Ces concepts peuvent être généralisés dans les cas multidimensionnel sur $\mathbb{R}^n$ et d'autres univers continus.

[modifier] Principes fondamentaux

La probabilité d'un certain événement A, $\textstyle\mathbb{P}(A)$ , est représenté par un nombre compris entre 0 et 1. Un évènement impossible a une probabilité de 0 et un évènement certain a une probabilité de 1. Il faut savoir que le contraire n'est pas forcément vrai. Un évenement qui a une probabilité 0 peut très bien se produire dans le cas où un nombre infini d'évenements différents peut se produire. Ceci est détaillé dans l'article Ensemble négligeable.

**Quelques propriétés fondamentales**
Evénement	Probabilité
probabilité de A	$\mathbb{P}(A)\in[0,1]\,$
probabilité de ne pas avoir A	$\mathbb{P}(A^c)=1-\mathbb{P}(A)\,$
probabilité d'avoir A ou B	$\begin{align} \mathbb{P}(A\cup B) & = \mathbb{P}(A)+\mathbb{P}(B)-\mathbb{P}(A\cap B) \\ \end{align}$
probabilité d'avoir A et B	$\begin{align} \mathbb{P}(A\cap B) & = \mathbb{P}(A\|B)\mathbb{P}(B)\\ & = \mathbb{P}(A)\mathbb{P}(B) \qquad\mbox{si A et B sont independants}\\ \end{align}$
A sachant B	$\mathbb{P}(A\|B)=\frac{\mathbb{P}(A\cap B)}{\mathbb{P}(B)}\,$

$\textstyle A\cup B$ est la réunion de A et B. $\textstyle A\cap B$ est l'intersection de A et de B. $\mathbb{P}(A|B)$ est appelé la probabilité conditionnelle de A sachant B. C'est la probabilité d'avoir A quand on sait que l'on a B. Par exemple, pour un dé à 6 face la probabilité d'avoir un 2 (A) quand on sait que le résultat est paire (B) est égal à $\textstyle\frac{1/6}{1/2}=1/3$ car la probabilité d'avoir à la fois un 2 et un nombre pair est égal à 1/6 et la probabilité d'avoir un nombre pair est égal à 1/2. Ici on remarque que $\textstyle A\cap B=A$ car on a toujours un nombre pair quand on a 2.

[modifier] La théorie des probabilités aujourd'hui

Article détaillé : axiomes des probabilités.

Article détaillé : espace probabilisé.

Certaines distributions peuvent être un mélange de distributions discrètes et continues, et donc n'avoir ni densité de probabilité ni fonction de masse. La distribution de Cantor constitue un tel exemple. L'approche moderne des probabilités résout ces problèmes par l'utilisation de la théorie de la mesure pour définir un espace probabilisé et aboutir aux axiomes des probabilités développés par Kolmogorov

Un espace probabilisé comporte trois parties:

un univers $Ω$ : L'univers est l'ensemble de tout les résultats possibles de l'évenement aléatoire. Par exemple pour un dé a 6 faces l'univers est Ω ≡ {1, 2, 3, 4, 5, 6}.
un ensemble d'évenements $\mathcal{B}$ : C'est une tribu sur les évenements Ω. Cet ensemble contient tout les résultats possibles de l'évenement au sens large. Par exemple pour un dé à 6 faces il contient la possibilité d'avoir un 1 ou un 2: {1, 2}, la possibilité de ne rien sortir comme résultat: l'ensemble vide $\textstyle\emptyset$ , la possibilité de sortir n'importe quel face du dé {1, 2, 3, 4, 5, 6}. En général en probabilité on se contente de prendre la tribu borélienne. A titre d'exemple la tribu borélienne pour le résultat d'un dé à 4 faces est donné (celle pour le dé à 6 faces est encore plus grande mais suit le même principe):

{ø, {1}, {2}, {3}, {4}, {1,2}, {1,3}, {1,4}, {2,3}, {2,4}, {3,4}, {1,2,3}, {1,2,4}, {1,3,4}, {2,3,4}, {1,2,3,4}}. On remarque que cette tribu contient l'ensmeble vide ø et Ω={1,2,3,4}. Ceci est le cas pour toutes les tribus.

une mesure $\mathbb{P}$ : Cette mesure ou probabilité est la probabilité de réaliser l'un des élements de $\mathcal{B}$ . Cette probabilité est comprise entre 0 et 1 pour tout les élements de $\mathcal{B}$ , c'est le premier axiome des probabilités. Par exemple pour un dé a 6 faces: la probabilité d'avoir {1} est 1/6, la probabilité de Ω={1, 2, 3, 4, 5, 6}, tirer n'importe laquelle des 6 faces, est 1 (ceci est aussi toujours le cas, c'est le deuxième axiome des probabilités), la probabilité de l'ensemble vide ø est 0. Ceci est toujours le cas, c'est également une conséquence des axiomes des probabilités.

Dans cette optique, pour des évènements deux à deux disjoints (c'est-à-dire, d'intersection deux à deux vide) A₁, A₂, A₃…, la probabilité de leur union apparaît comme la somme de leurs probabilités, ou, avec les notations mathématiques, $P\left(A_1\cup A_2\cup A_3\cup\cdots\right) =P(A_1)+P(A_2)+P(A_3)+\cdots.$

C'est le troisième et dernier axiome des probabilités. Par exemple, et toujours pour un dé à 6 faces, la probabilité de tirer un 1 ou un 2 $\mathbb{P}(\{1,2\})=\mathbb{P}(\{1\})+\mathbb{P}(\{2\})=2/6$

En plus de permettre une meilleure compréhension et une unification des théories discrètes et continues des probabilités, l'approche de la théorie de la mesure nous permet aussi de parler de probabilités en dehors de $\mathbb{R}^n$ , notamment dans la théorie des processus stochastiques. Par exemple pour l'étude du mouvement brownien, la probabilité est définie sur un espace de fonctions.

[modifier] Lois de probabilité

Article détaillé : Loi de probabilité.

Certaines variables aléatoires sont fréquemment rencontrées en théorie des probabilités car on les retrouve dans de nombreux processus naturels. Leur loi ont donc une importance particulière. Les lois discrètes les plus fréquentes sont la loi uniforme discrète, la loi de Bernoulli, ainsi que les lois binomiale, de Poisson et géométriques. Les lois uniforme continue, normale, exponentielle et gamma sont parmi les plus importantes lois continues.

[modifier] Convergence de variables aléatoires

Article détaillé : convergence de variables aléatoires.

En théorie des probabilités, il y a plusieurs notions de convergence pour les variable aléatoire. En voici la liste:

Convergence en loi: une suite de variables aléatoires $(X_n)_{n\in\mathbb{N}}$ converge en loi vers la variable aléatoire $X\,$ si et seulement si la suite des mesures images $(\mu_{X_n})_n\in\mathbb{N}$ converge étroitement vers la mesure image

μ X

. En particulier dans le cas réel, il suffit que les fonctions de répartitions convergent simplement vers la fonction de répartition de X.

Convergence en probabilités: $(X_n)_{n\in\mathbb{N}}$ converge en probabilités vers $X\,$ ssi $\forall \epsilon >0$ , $\lim_{n\rightarrow\infty}P\left(\left|X_n-X\right|\geq\varepsilon\right)=0$ . Cette convergence implique la convergence en loi.

Convergence presque sûre: $(X_n)_{n\in\mathbb{N}}$ converge presque sûrement vers $X\,$ ssi $P(\{\omega/\lim_{n\rightarrow\infty} X_n(\omega)=X(\omega)\})=1.$ . Elle implique la convergence en probabilités, donc la convergence en loi.

Convergence dans $\mathcal{L}^1$ : $(X_n)_{n\in\mathbb{N}}$ converge dans $\mathcal{L}^1$ vers $X\,$ ssi $\lim_{n\rightarrow\infty}E(|X_n-X|)=0$ . Elle implique aussi la convergence en probabilités.

[modifier] Le calcul stochastique

Article détaillé : calcul stochastique.

Un processus stochastique, est un processus aléatoire qui dépend du temps. Un processus stochastique est donc une fonction de deux variables : le temps et la réalisation ω d'une certaine expérience aléatoire. Quelques exemples d'utilisation des processus stochastiques incluent le mouvement brownien, les fluctuations du marché boursier, ou la reconnaissance vocale. En temps discret, ces processus sont aussi connus sous le nom de Séries temporelles et servent entre autre en économétrie.

Parmi les processus stochastiques les chaînes de Markov constituent l'exemple le plus simple et sans doute celui avec le plus d'applications pratiques.

[modifier] Chaîne de Markov

Article détaillé : chaîne de Markov.

Une chaîne de Markov est un processus stochastique possédant la propriété markovienne. Dans un tel processus, la prédiction du futur à partir du présent ne nécessite pas la connaissance du passé. Il suffit alors de connaître l'état de la chaîne à un instant t pour savoir comme elle évoluera au temps t+1, il n'est pas nécessaire de connaître tout le passé entre 0 et t pour prévoir l'évolution de la chaîne.

Une chaîne en temps discret est une séquence X₁, X₂, X₃, ... de variables aléatoires. La valeur X_n étant l'état du processus au moment n. Si la distribution de probabilité conditionnelle de X_n+1 sur les états passés est une fonction de X_n seulement, alors de façon mathématique:

$P(X_{n+1}=x|X_0, X_1, X_2, \ldots, X_n) = P(X_{n+1}=x|X_n).$

où x est un état quelconque du processus, $\mathbb{P}(A|B)$ est la probabilité d'avoir A quand on sait que l'on a B par exemple ici la probabilité d'avoir une certaine valeur pour $X n$ quand on connait la valeur de $X n + 1$ . L'identité ci-dessus est la propriété de Markov pour le cas particulier d'une chaîne en temps discret. La probabilité $P (X n + 1 = x | X n = y)$ est appelée la probabilité de transition de x à y ; c'est la probabilité d'aller de x à y au temps n et a une importance particulière pour l'étude de ces chaînes. Nous considérons ici uniquement des chaînes de Markov en temps discret mais il faut savoir qu'il existe une généralisation en temps continu.

Cette propriété de Markov s'oppose à la notion d'hystérésis où l'état actuel dépend de l'histoire et non seulement de l'état actuel. Ces chaînes de Markov ou des modèles de Markov cachés interviennent dans l'étude de la marche aléatoire et ont de nombreux champs d'application: filtre anti-spam, mouvement brownien, hypothèse ergodique, théorie de l'information, reconnaissance des formes, algorithme de Viterbi utilisé en téléphonie mobile, etc...

Trois marches aléatoires (indépendantes) isotropes sur le réseau $\mathbb{Z}^2$ ; 10 000 pas.

Article détaillé : marche aléatoire.

Citons entre autres comme cas particuliers de chaînes de Markov la marche aléatoire qui sert en particulier à l'étude de la diffusion ou du jeu de pile ou face. Une marche aléatoire est une chaîne de Markov où la probabilité de transition ne dépend que de x-y. Autrement dit une chaîne de Markov où l'on a: $P (X n + 1 = x | X n = y) = f (x - y)$ .

Un jeu de pile ou face où l'on jouerait 1 à chaque lancer est un exemple de marche aléatoire. Si on a y après n lancers, $P (X n + 1 = x | X n = y) = 1 / 2$ si (x-y)=+1 ou -1 et 0 sinon. (on a une chance sur deux de gagner 1 et une chance sur deux de perdre 1)

[modifier] Equations aux dérivés stochastiques

Article détaillé : Équation différentielle stochastique.

Les équations aux dérivées stochastique sont une forme d'équation différentielle intégrant un terme de bruit blanc. Ces équations aux dérivés stochastiques remplacent les équations différentielles ordinaires lorsque l'aléatoire entre en jeu. Au premier ordre par exemple: $\frac{dX(t)}{dt}=\mu(X(t))+\sigma(X(t))\xi(t)$

Pour faire une analogie avec la physique $μ(X (t))$ est la vitesse moyenne au point X(t) et $σ$ est lié au coefficient de diffusion (voir a ce propos l'exemple donné dans lemme d'Itô). Le lemme d'Itô et l'intégrale d'Itô permettent alors de passer de ces équations stochastiques à des équations aux dérivées partielles classique ou à des équations intégrales. Par exemple en utilisant le lemme d'Itô on obtient pour la probabilité de se trouver à l'instant t au point x:

$\frac{\partial p(x,t)}{\partial t}=\frac{\sigma(x)^2}{2} \frac{\partial^2 p (x,t)}{\partial x^2} +\mu(x)\frac{\partial p(x,t)}{\partial x}$

Ce lemme est particulièrement important car il permet de faire le lien entre l'étude d'équation stochastique et les équations aux dérivées partielles qui relèvent de l'analyse. Ce lemme permet entre autre d'obtenir les équation de Fokker-Planck en physique et de traiter le mouvement brownien par des équations aux dérivées partielles classiques ou de modéliser les cours de la bourse en Mathématiques financières.