Éthique de l'intelligence artificielleL'éthique de l'intelligence artificielle est le domaine de l' propre aux robots et autres entités artificiellement intelligents. Il est généralement divisé en roboéthique, qui se préoccupe de l'éthique humaine pour guider la conception, la construction et l'utilisation des êtres artificiellement intelligents, et l', préoccupée par le comportement moral des agents moraux artificiels. Pour l'aspect philosophique de l'intelligence artificielle, voir Philosophie de l'intelligence artificielle.
Pourquoi le futur n'a pas besoin de nousvignette|250 px|Bill Joy en 2003 Pourquoi le futur n’a pas besoin de nous sous-titré : est un article de l'informaticien Bill Joy datant de 2000, publié notamment dans le magazine américain Wired. Bill Joy explique dans ce texte qu'il est convaincu qu'avec les avancées scientifiques et techniques en génétique et en nanotechnologie, les robots intelligents remplaceront l'humanité, au moins sur les plans intellectuel et social, dans un futur relativement proche. Il inclut dans son texte une réflexion sur les positions « neo-luddites » de Unabomber.
Risque de catastrophe planétairevignette|Vue d'artiste d'un impact cosmique. Un tel impact pourrait avoir été la cause de l'extinction des dinosaures non-aviens.|alt=Une boule de feu s'écrasant dans l'océan. Un risque de catastrophe planétaire ou de catastrophe globale est un événement futur hypothétique qui aurait le potentiel de dégrader le bien-être de la majeure partie de l'humanité, par exemple en détruisant la civilisation moderne ; cette notion, introduite par divers auteurs à partir de la fin du , a été théorisée et précisée en 2008 par le philosophe Nick Bostrom, lequel avait proposé également dès 2002 d'appeler risque existentiel un événement qui pourrait causer l’extinction de l'humanité.
Altruisme efficaceL'altruisme efficace est un ensemble d’idées autour desquelles s'est constitué un mouvement social né à la fin des années 2000, qui vise à adopter une démarche analytique afin d’identifier les meilleurs moyens d’avoir un impact positif sur le monde. L’altruisme efficace se distingue notamment par la volonté d’évaluer de manière rigoureuse les différentes actions que l’on peut entreprendre, sans se restreindre à une cause prédéterminée, et en prenant en compte le fait que nous avons des ressources limitées à notre disposition (telles que les moyens financiers, le temps, les compétences).
Convergence instrumentaleLa convergence instrumentale est la tendance hypothétique de la plupart agents suffisamment intelligents (humains ou non) à poursuivre des objectifs instrumentaux similaires (par exemple survivre ou acquérir des ressources), même si leurs objectifs ultimes sont différents. Plus précisément, les agents intelligents peuvent poursuivre des objectifs instrumentaux (des objectifs qui n'ont pas de valeur , mais qui aident à atteindre des objectifs ultimes) sans fin, si leurs objectifs ultimes ne soient jamais pleinement satisfaits.
OpenAIOpenAI (« AI » pour artificial intelligence, ou intelligence artificielle) est une entreprise spécialisée dans le raisonnement artificiel, à « but lucratif plafonné », dont le siège social est à San Francisco. Avant , elle est reconnue association à but non lucratif. L'objectif de cette société est de promouvoir et de développer un raisonnement artificiel à visage humain qui profitera à toute l'humanité.
Alignement des intelligences artificiellesLalignement des intelligences artificielles (ou alignement de l'IA, ou encore problème de l'alignement) est un champ de recherche visant à concevoir des intelligences artificielles (IA) dont les résultats s'orientent vers les objectifs, éthiques ou autres, de leurs concepteurs. On dit ainsi qu'une IA est alignée avec un opérateur si elle essaie de faire ce que l'opérateur veut qu'elle fasse. Les systèmes d'IA peuvent être difficiles à aligner, et être dysfonctionnels ou dangereux si mal alignés.
SuperintelligenceUne superintelligence est un agent hypothétique qui posséderait une intelligence de loin supérieure à celle des humains les plus brillants et les plus doués. Un système résolvant des problèmes (comme un traducteur automatique ou un assistant à la conception) est parfois aussi décrit comme « superintelligent » s'il dépasse de loin les performances humaines correspondantes, même si cela ne concerne qu'un domaine plus limité.
Intelligence artificielle amicaleUne intelligence artificielle amicale (aussi appelé IA amicale ou IAA) est une intelligence artificielle hypothétique qui aurait un effet positif plutôt que négatif sur l'humanité. Ce concept fait partie de l'éthique de l'intelligence artificielle et est étroitement lié au problème de l'alignement et à l'éthique des machines. Alors que l'éthique des machines se préoccupe de la façon dont un agent artificiellement intelligent doit se comporter, la recherche de l'intelligence artificielle amicale est axée sur la façon de provoquer ce comportement et de s'assurer qu'il est suffisamment maîtrisé.
Cerveau artificielthumb|upright=1.2|Estimation de puissance de calcul nécessaire pour une simulation d'activité cérébrale. Un cerveau artificiel est un modèle informatique, basé sur la simulation de l’activité de populations de neurones, qui possède ou développe des facultés cognitives similaires aux cerveaux biologiques.
