Séparation des convexes

Étant donnés deux convexes d'un même plan ne se rencontrant pas, il est toujours possible de subdiviser le plan en deux demi-plans de sorte que chacun contienne entièrement l'un des convexes. Il en est de même en dimension 3, la séparation des convexes étant alors réalisée par un plan. Plus généralement, on peut en faire autant en dimension finie quelconque à l'aide d'un hyperplan. Sous une hypothèse convenable de compacité, on peut même garantir une « séparation stricte », assurant que chacun des deux convexes reste à distance de l'hyperplan qui les sépare ; dans de bonnes conditions la séparation peut également être assurée dans certains espaces vectoriels topologiques de dimension infinie. Un cas particulier remarquable est celui où l'un des convexes ne contient qu'un point, choisi sur la frontière de l'autre. Dans ce cas, les hyperplans séparants sont appelés hyperplans d'appui du convexe. On se place dans un espace affine E (de dimension finie), ou dans un espace vectoriel normé sur . Étant donné un hyperplan affine H de E, il existe une forme linéaire (unique à un facteur multiplicatif près) qui puisse servir d'équation à , c'est-à-dire pour laquelle il existe un réel tel que . De plus, si est fermé, est continue. On pourra dès lors définir les deux « demi-espaces » limités par comme les ensembles et . Étant données deux parties et de , on dit alors que sépare et lorsque, dans la subdivision de par en deux demi-espaces et , l'un des ensembles et est inclus dans et l'autre dans . Dans cette définition (séparation au sens « large »), on n'interdit pas à et à de contenir des points de , voire de se rencontrer l'un l'autre à condition que ce soit sur . Sous certaines hypothèses, on peut obtenir des résultats de séparation plus précis et conclure que et sont de part et d'autre de , dans les demi-plans stricts qu'il limite. De fait, on peut parfois faire encore un peu mieux, d'où la définition technique suivante : on dit que d'équation sépare strictement et lorsqu'il existe un tel que l'un des ensembles et soit inclus dans le demi-espace et l'autre dans le demi-espace .