Éthique dans le NLP

Cette séance de cours explore les considérations éthiques dans la conception des systèmes de traitement du langage naturel (PTN), en mettant l'accent sur les biais, la toxicité et les préoccupations en matière de protection de la vie privée. Elle se penche sur les dangers potentiels des modèles linguistiques, tels que la fuite d'informations privées et la diffusion de la désinformation. L'instructeur discute de la classification des préjudices causés par les modèles linguistiques, y compris la discrimination, l'exclusion et la désinformation. De plus, la séance de cours aborde les défis de l'amplification des biais, de la formation des modèles et des implications des biais cachés dans les modèles de NLP à grande échelle.

À propos de ce résultat

Cette page est générée automatiquement et peut contenir des informations qui ne sont pas correctes, complètes, à jour ou pertinentes par rapport à votre recherche. Il en va de même pour toutes les autres pages de ce site. Veillez à vérifier les informations auprès des sources officielles de l'EPFL.

Séances de cours associées (50)

Concepts associés (39)

CS-431: Introduction to natural language processing

The objective of this course is to present the main models, formalisms and algorithms necessary for the development of applications in the field of natural language information processing. The concept

History of natural language processing

The history of natural language processing describes the advances of natural language processing (Outline of natural language processing). There is some overlap with the history of machine translation, the history of speech recognition, and the history of artificial intelligence. The history of machine translation dates back to the seventeenth century, when philosophers such as Leibniz and Descartes put forward proposals for codes which would relate words between languages.

Grand modèle de langage

Un grand modèle de langage, grand modèle linguistique, grand modèle de langue, modèle massif de langage ou encore modèle de langage de grande taille (LLM, pour l'anglais large language model) est un modèle de langage possédant un grand nombre de paramètres (généralement de l'ordre du milliard de poids ou plus). Ce sont des réseaux de neurones profonds entraînés sur de grandes quantités de texte non étiqueté utilisant l'apprentissage auto-supervisé ou l'apprentissage semi-supervisé.

Apprentissage automatique

L'apprentissage automatique (en anglais : machine learning, « apprentissage machine »), apprentissage artificiel ou apprentissage statistique est un champ d'étude de l'intelligence artificielle qui se fonde sur des approches mathématiques et statistiques pour donner aux ordinateurs la capacité d'« apprendre » à partir de données, c'est-à-dire d'améliorer leurs performances à résoudre des tâches sans être explicitement programmés pour chacune. Plus largement, il concerne la conception, l'analyse, l'optimisation, le développement et l'implémentation de telles méthodes.

Biais (distorsion)

Dans diverses disciplines, un biais est une erreur systématique ou une simplification abusive. vignette|L'interprétation des formes aléatoires apparaissant à la surface de la Lune constitue un exemple courant de biais perceptuel causé par la paréidolie (processus tendant à discerner une forme familière parmi des formes aléatoires). Les biais peuvent être transmis implicitement avec le contexte culturel.

Modèle de langage

En traitement automatique des langues, un modèle de langage ou modèle linguistique est un modèle statistique de la distribution de symboles distincts (lettres, phonèmes, mots) dans une langue naturelle. Un modèle de langage peut par exemple prédire le mot suivant dans une séquence de mots. Un modèle de langage n-gramme est un modèle de langage qui modélise des séquences de mots comme un processus de Markov. Il utilise l'hypothèse simplificatrice selon laquelle la probabilité du mot suivant dans une séquence ne dépend que d'une fenêtre de taille fixe de mots précédents.

Modèles Vision-Langue-Action : Formation et applications

Se penche sur la formation et les applications des modèles Vision-Language-Action, en mettant l'accent sur le rôle des grands modèles linguistiques dans le contrôle robotique et le transfert des connaissances web. Les résultats des expériences et les orientations futures de la recherche sont mis en évidence.

Considérations éthiques dans le traitement des langues naturelles CS-552: Modern natural language processing

Examine les défis éthiques dans les systèmes de PNL, y compris les biais, la toxicité, la vie privée et la désinformation.

Éthique et droit de l'IA DH-415: Ethics and law of AI

Explore l'éthique et le droit de l'IA, en mettant l'accent sur l'éthique des données, les préjugés et la justice sociale dans les systèmes d'IA.

Le PNL moderne et l'éthique dans le PNL

Se penche sur les progrès et les défis du PNL, ainsi que sur les considérations éthiques et les préjudices potentiels.

Génération de langues naturelles EE-608: Deep Learning For Natural Language Processing

Explore la génération du langage naturel, couvrant les modèles neuraux, les biais, l'éthique et les défis d'évaluation.