Experimentarium Digitale

Une chaîne de Markov à deux états

Monticelli Marc — 2018-01-23T10:30:00Z

Illustration de la loi des grands nombres

Chazottes Jean-René , Monticelli Marc — 2015-07-08T16:44:35Z

La « loi des grands nombres » est l'un des théorèmes fondamentaux de la théorie des probabilités. Prenons des variables aléatoires réelles indépendantes $X_1,X_2,\ldots$ qui ont toutes la même loi et telles que $\mathbb{E}(|X_1|)$ est fini. Dans sa version la plus forte, la loi des grands nombres affirme que

$$ \mathbb{P}\left(\lim_{n\to\infty} \frac{S_n}{n}=\mathbb{E}(X_1)\right)=1 $$

où $S_n=X_1+\cdots + X_n$.
Concrètement, si on a une réalisation $x_1,\ldots,x_n$ des variables aléatoires $X_1,\ldots, X_n$ alors

$$ \frac{x_1+\cdots+x_n}{n}\approx \mathbb{E}(X_1), $$

l'approximation étant d'autant meilleure que le nombre $n$ de tirages est grand. Autrement dit, la moyenne empirique (qui est aléatoire) fluctue de moins en moins quand $n$ augmente pour tendre vers une constante (c-à-d une quantité non aléatoire). Cette constante est l'espérance des $X_i$, c-à-d $\mathbb{E}(X_1)$. Toutes les réalisations typiques ont la même moyenne asymptotique.

L'expérience numérique interactive qui suit illustre la loi des grands nombres en permettant de varier le nombre de tirages ($n$), le nombre de réalisations, et la loi commune des $X_i$. Elle illustre aussi ce que l'hypothèse que $\mathbb{E}(|X_1|)<\infty$ est nécessaire pour que la convergence ait lieu. On prend pour cela la loi de Cauchy.

Plus de détails.
Lorsqu'on simule une variable aléatoire avec un ordinateur, on obtient une valeur différente, qu'on appelle une réalisation, chaque fois qu'on appelle le générateur pseudo-aléatoire. Pour chaque $n$, on génère une réalisation de $X_1,\ldots,X_n$, donc de $S_n/n$, en appelant $n$ fois le générateur.
La loi de Bernoulli : les $X_i$ prennent soit la valeur $1$ avec probabilité $p$, soit la valeur $0$ avec probabilité $1-p$. On a
$\mathbb{E}(X_1)=p$.
Loi exponentielle : les $X_i$ sont à valeurs dans $\mathbb{R}^+$ et ont pour densité de probabilité la fonction $f(x)=\lambda e^{-\lambda x} \mathbb{1}_{x\geq 0}$ où $\lambda>0$ est un paramètre. On a $\mathbb{E}(X_1)=1/\lambda$. Ici on a prend $\lambda=1$.
Loi de Cauchy : les $X_i$ sont à valeurs dans $\mathbb{R}$ et ont pour densité la fonction $f(x)=\frac{1}{\pi(1+x^2}$.
Dans ce cas on a $\mathbb{E}(|X_1|)=\infty$ ($\mathbb{E}(X_1)$ n'est pas défini).

Promenades aléatoires dans l'espace

Chazottes Jean-René , Monticelli Marc — 2014-04-16T12:37:17Z

Une particule part d'un point de l'espace $\mathbb{Z}^{3}$, c-à-d l'ensemble des points à coordonnées entières dans l'espace $\mathbb{R}^3$. Autrement dit, il s'agit d'un réseau tridimensionnel cubique dont les arêtes sont de même longueur égale à un. Un point de $\mathbb{Z}^{3}$ est représenté par un triplet $(x,y,z)$ où $x\in\mathbb{Z}$, $y\in\mathbb{Z}$, $z\in\mathbb{Z}$.

La particule effectue une promenade aléatoire en faisant un saut à chaque pas de temps de la manière suivante : si la particule est au point de coordonnées $(x,y,z)$ à l'instant $t$, elle peut aller à l'un des six points de coordonnées $(x\pm 1,y,z)$, $(x,y\pm 1,z)$, $(x,y,z\pm 1)$ à l'instant $t+1$. Ces six points ont la même probabilité d'être atteints, c-à-d $1/6$. Autrement dit, les six points les plus proches voisins du point où la particule se trouve en un temps donné sont accessibles de façon équiprobable. La promenade est dite « symétrique » ou « isotrope ».

Le cas de la dimension deux, c-à-d des promenades sur la grille $\mathbb{Z}^2$, se trouve ici.

Dans l'expérience numérique qui suit, on peut changer le nombre total de sauts et voir trois réalisations possibles de la promenade. On peut également faire tourner les promenades pour les observer sous tous les angles. (Pour plus de clarté, on joint les points visités entre eux par un segment.)

On peut démontrer mathématiquement que la probabilité qu'il existe un temps fini au bout duquel la particule repasse par son point de départ est strictement plus petite que un (elle vaut environ $0,34$). C'est le théorème de Pólya. Ce théorème établit également que la probabilité en question vaut par contre un en dimension deux, c.-à-d. quand on se promène sur le réseau $\mathbb{Z}^2$.

Pour intégrer cette simulation dans vos propres pages web :

Promenades aléatoires dans le plan

Chazottes Jean-René , Monticelli Marc — 2014-04-09T13:55:46Z

Une particule part d'un point du plan $\mathbb{Z}^2$ (qu'on peut aussi décrire comme l'ensemble des points à coordonnées entières dans le plan $\mathbb{R}^2$ ou comme l'ensemble des intersections d'un quadrillage de ce plan). Un point de $\mathbb{Z}^2$ est représenté par un couple $(x,y)$ où $x\in\mathbb{Z}$, $y\in\mathbb{Z}$.

La particule effectue une promenade aléatoire en faisant un saut à chaque pas de temps de la manière suivante : si la particule est à l'instant $t$ au point de coordonnées $(x,y)$, elle peut aller à l'un des quatre points de coordonnées $(x\pm 1,y)$, $(x,y\pm 1)$ à l'instant $t+1$. Ces quatre points ont la même probabilité d'être atteints, c-à-d $1/4$. Et ainsi de suite.

Dans l'expérience numérique qui suit, on peut changer le nombre total de sauts et voir trois réalisations possibles de la promenade. (Pour plus de clarté, on joint les points visités entre eux par un segment.) On peut cliquer à n'importe quel moment pour choisir un nouveau point de départ pour la promenade.

Une question qu'on peut se poser est la suivante. Partant d'un point quelconque, quelle est la probabilité qu'il existe un temps fini au bout duquel la particule repasse par ce point ? En termes plus intuitifs mais moins précis, imaginons qu'on fasse démarrer un très grand nombre de promenades d'un point donné et qu'on les fasse durer très longtemps. On se demande quelle est la proportion de particules qui sont repassées par le point de départ.
On imagine aisément des promenades qui font repasser des particules après quelques sauts. L'expérience numérique suggère que les particules restent plutôt confinée autour du point de départ, ce qui est cohérent avec le fait que les promenades sont isotropes et ne privilégient donc pas statistiquement de direction particulière.
On peut démontrer mathématiquement que la probabilité qu'il existe un temps fini au bout duquel la particule repasse par son point de départ vaut un. Ce n'est plus vrai si on fait faire aux particules des promenades en dimension trois, c-à-d sur le réseau cubique $\mathbb{Z}^3$ ! C'est le théorème de Pólya : la particule repasse par son point de départ avec une probabilité strictement inférieure à un (elle vaut environ $0,34$).

Pour intégrer cette simulation dans vos propres pages web :

Processus de Bienaymé-Galton-Watson

Chazottes Jean-René , Monticelli Marc — 2014-01-30T16:16:40Z

Ce modèle a été introduit par Bienaymé en 1845 et indépendamment par Galton en 1873. Leur préoccupation était de comprendre comment pouvaient disparaître des patronymes de la noblesse.
Ils proposèrent le modèle suivant :
À la génération $t=0$, il y a un seul homme qui a une probabilité $p_k$ d'avoir $k$ enfants mâles, $k=0,1,2,\ldots, k_{\mathrm{max}}$.
À la génération $t=1$, chaque descendant mâle a une probabilité $p_k$ d'avoir $k$ enfants mâles.
Et ainsi de suite.
On définit donc le nombre $X_t$ de descendants de l'individu initial à la génération $t$ par une récurrence aléatoire démarrant avec $X_0=1$ : $X_t$ s'obtient en prenant le nombre de descendants de chaque individu de la génération $t-1$ et en faisant la somme de ces nombres. Observons que si $X_{T}=0$ pour une certaine génération $T\geq 1$, alors $X_{T+1}=0, X_{T+2}=0,\ldots$ : la descendance de l'individu initial s'éteint. La première génération $T$ telle que $X_{T}=0$ s'appelle le temps d'extinction. C'est une quantité aléatoire.

Ce modèle a été réintroduit pour de toutes autres raisons en 1922 par Fisher qui voulait étudier la disparition ou le maintien d'un gène mutant dans une population. Dans ce cas, $p_k$ est la probabilité qu'un gène soit transmis d'un individu à $k$ de ses descendants.

L'ensemble des $p_k$ s'appelle la loi de reproduction. La somme de tous les nombres $p_k$, qui sont compris entre $0$ et $1$, doit valoir $1$.

L'expérience numérique suivante illustre la construction des « arbres » aléatoires créés par ce processus. On a pris comme exemples un cas où il y a $0$ ou $2$ descendants par individu et par génération et un autre cas où il y a $0$, $1$ ou $2$ descendants.
Noter que chaque fois qu'on recommence, la lignée de l'individu initial est différente à cause du caractère aléatoire de la reproduction.

La question fondamental est la suivante : a-t-on, selon les valeurs de $p_k$, extinction de la descendance de l'individu initial ou bien sa persistence indéfinie ? Autrement dit, quelle est la probabilité d'extinction de la population résultant d'un individu initial ?

Intuitivement, on peut se dire que le paramètre clé est le nombre moyen de descendants par individu en une génération qu'on note $m$, c.-à-d. l'espérance de la loi de reproduction : $m=p_1+2p_2+3 p_3+\cdots$. Si $m<1$, on peut s'attendre à l'extinction certaine, tôt ou tard. On pourrait s'attendre à la non extinction certaine dans le cas $m>1$. Nous allons voir que c'est plus subtil.

Si on note $s_t$ la probabilité qu'à la génération $t$ la population soit éteinte, c.-à-d. la probabilité que $X_t=0$, on peut démontrer la relation de récurrence suivante :

$$ s_{t}=\varphi(s_{t-1}) $$

où $\varphi$ est la fonction génératrice de la loi de reproduction :

$$ \varphi(s)=p_0+p_1 s + p_2 s^2+\cdots $$

Dans l'exemple où il n'y a que $0$ ou $2$ descendants, cette série se réduit à un polynôme du second degré : $\varphi(s)=p_0+p_2 s^2$. Une propriété générale de la fonction génératrice est que sa dérivée en $s=1$ donne le nombre moyens de descendants : $\varphi'(1)=m$ (pente de la tangente au graphe de $\varphi$ en $s=1$).

L'autre point clé est qu'on démontre que la probabilité d'extinction est la limite, quand $t$ tend vers l'infini, de $s_t$. On doit donc voir vers quoi converge la suite $(s_t)$ définie par la récurrence $s_t=\varphi(s_{t-1})$. On a $s_0=0$ car à la génération $t=0$ il y a un individu, donc la probabilité que la population soit éteinte est nulle.

L'expérience numérique suivante permet de voir ce qui se passe dans l'exemple où $\varphi(s)=p_0+p_2 s^2$ lorsque $p_0$ ou $p_2$ varie, ce qui modifie bien sûr $m$ qui vaut $2p_2$. En cliquant on sélectionne un $s_0$ (la valeur naturelle est $0$ mais on peut prendre n'importe quelle valeur différente de $1$) et on visualise vers quoi converge la suite $(s_t)$, donc ce que vaut la probabilité d'extinction.

Expérimentalement, on constate que si $m\leq 1$, $(s_n)$ converge vers $1$ : la probabilité d'extinction vaut $1$ (elle est certaine) ; si $m>1$, cette probabilité est comprise strictement entre $0$ et $1$ et vaut $s^*$.
C'est en fait un théorème qui est valable pour toute loi de reproduction $\{p_0,p_1,\ldots\}$ (pourvu que $m=\sum_{k=1}^{\infty} k\, p_k<\infty$). En fait, quelle que soit la loi de reproduction, on a qualitativement le même phénomène que dans l'expérience numérique ci-dessus (une fonction génératrice quelconque a les propriétés suivantes : $\varphi(0)=p_0$, $\varphi(1)=1$, $\varphi$ est convexe et $\varphi'(1)=m$).

Pour aller un peu plus loin.
Lorsque $m>1$, on vient de voir que la probabilité d'extinction n'est ni nulle ni égale à un. Cela signifie qu'il existe une génération $T\geq 1$ telle que $X_t=0$ pour tout $t\geq T$ et que cet événement a une probabilité égale à $s^*$. Quel est l'événement complémentaire ? A priori, $X_t$ pourrait soit atteindre une certaine valeur stable $N$ ou bien tendre vers l'infini. On peut démontrer que seule la seconde possibilité est vraie, donc, avec une probabilité égale à $1-s^*$, $X_t\to+\infty$. À quelle vitesse a lieu cette « explosion » ? La réponse est : en $m^t$, c.-à-d. exponentiellement vite.
L'expérience numérique qui suit corrobore cette affirmation. On y calcule la quantité $X_t/m^t$ en fonction de $t$ pour plusieurs réalisations.

$X_t/m^t$ en fonction de $t$ ($m>1$)

Cette expérience numérique illustre ce que nous avons décrit :
– soit l'extinction a lieu ($X_t$ devient nul donc également $X_t/m^t$) ;
– soit la descendance ne s'éteint pas auquel cas $X_t$ croît exponentiellement avec $t$, ce qui correspond à la stabilisation de $X_t/m^t$.
La proportion de réalisations pour lesquelles il y a extinction devrait être proche de la probabilité d'extinction si on avait un très grand nombre d'entre elles.
Observons aussi que $X_t/m^t$ ne se stabilise pas autour d'une valeur commune pour différentes réalisations. La raison est que $X_t/m^t$ tend vers une variable aléatoire, pas une quantité déterministe.

Pour en savoir plus, on peut lire cet article en ligne ainsi que celui-là.

Code HTML pour intégrer ces simulations dans vos pages :

Calcul de $\pi$ avec des aiguilles et un parquet

Chazottes Jean-René , Monticelli Marc — 2013-09-26T12:28:49Z

En 1733, Buffon se pose la question suivante : si on jette au hasard une aiguille sur un parquet, quelle est la probabilité $P$ qu'elle chevauche une rainure séparant deux lattes adjacentes ? Si $a$ est la longueur d'une aiguille et $\ell$ la largeur d'une latte, on trouve $P=2a/\pi \ell$. (On suppose que $a\leq \ell$.)
En 1812, Laplace propose de calculer expérimentalement $\pi$ en invoquant la loi des grands nombres : le nombre d'aiguilles $k$ qui chevauchent une rainure divisé par le nombre total $n$ d'aiguilles lancées tend vers $P$ lorsque le nombre de lancés tend vers l'infini. Il propose donc l'estimateur $2na/\ell k$ en remplaçant $P$ par $k/n$ dans la formule de Buffon.
Cet exemple est l'ancêtre de la méthode de Monte Carlo, à savoir estimer une quantité déterministe en utilisant des tirages aléatoires. L'expérience de Buffon-Laplace a été réalisée avec de vraies aiguilles. Ici nous la faisons avec une expérience numérique interactive.

Version Beta - Si vous rencontrez un problème, rechargez la page

Code HTML pour intégrer cette simulation dans vos pages :

Voir en ligne : Calcul de Pi_avec des aiguilles_et un parquet

Convergence de la Fonction de Répartition Empirique

Chazottes Jean-René , Monticelli Marc — 2013-09-26T12:24:10Z

Version Beta

Code HTML pour intégrer cette simulation dans vos pages :

Simulation d'une variable aléatoire par inversion de sa fonction de répartition

Benaych-Georges Florent , Chazottes Jean-René , Monticelli Marc — 2013-09-07T21:33:00Z

Cette expérience numérique interactive est directement inspirée par une simulation imaginée et programmée en Scilab par Florent Benacyh-Georges. Elle a été réécrite ici en javascript et rendue interactive.

Illustration de la notion d'indépendance (tirage uniforme)

Benaych-Georges Florent , Chazottes Jean-René , Monticelli Marc — 2013-07-04T21:39:00Z

Loi des grands nombres et théorème limite central

Chazottes Jean-René , Monticelli Marc — 2013-07-04T10:19:48Z

On tire des variables aléatoires $X_1,X_2,\ldots$ indépendantes et de même loi. On calcule la somme $S_n$ des $n$ premières ($S_n=X_1+X_2+\cdots+X_n$).
On considère deux exemples dans l'expérience ci-dessous :
ou bien chaque $X_k$ suit une loi de Bernoulli de paramètre $p\in[0,1]$, c.à-d. $\mathbb{P}(X_k=1)=p$ et $\mathbb{P}(X_k=0)=1-p$ ;
ou bien chaque $X_k$ suit une loi exponentielle de paramètre 1 : $\mathbb{P}(X_k\leq x)=1-e^{-x}$.
La loi des grands nombres nous dit qu'avec probabilité un, $S_n/n$ converge vers la moyenne $m$ de $X_k$ qui vaut $p$ dans le cas de la loi de Bernoulli et 1 dans le cas de la loi exponentielle.
Dans la partie supérieure de l'expérience numérique interactive ci-dessous, on peut calculer $S_n/n$ en fonction du nombre $n$ de tirages et du nombre de réalisations. (Dans le cas de la loi de Bernoulli, on peut également faire varier le paramètre $p$.)
On peut étudier la répartition des fluctuations de $S_n/n$ autour de $m$ : si on « zoome » par un facteur $\sqrt{n}$ la variable aléatoire $S_n/n-m$, le théorème de la limite centrale implique que la fonction de répartition de $\sqrt{n}(S_n/n -m)$ converge vers celle de la loi normale centrée de variance $\mathbb{E}(X_k^2)-\mathbb{E}(X_k)^2$. Elle vaut $p(1-p)$ dans le cas de la loi de Bernoulli et 1 dans le cas de la loi exponentielle.
Dans la partie inférieure de l'expérience numérique ci-dessous, on peut calculer $(S_n-nm)/\sqrt{n}$ en fonction du nombre de tirages et du nombre de réalisations. On visualise l'histogramme de $(S_n-nm)/\sqrt{n}$ qui approxime celui d'une loi normale lorsqu'il y a suffisamment de tirages et de réalisations.

Code HTML pour intégrer cette simulation dans vos pages :