A preference-based approach to machine ethics for automated planning - Inria - Institut national de recherche en sciences et technologies du numérique Accéder directement au contenu
Thèse Année : 2022

A preference-based approach to machine ethics for automated planning

Une approche basée sur les préférences pour l'éthique des machines dans le contexte de la planification automatique

Résumé

Machine ethics is an uprising sub-field of artificial intelligence fueled by the interest and concerns about the deployment of automated agents in our everyday life. As these agents gain independence from human intervention and make decisions with possible impact on human welfare, real concerns are rising across domains.Due to those reasons, various approaches have been proposed to imbue automated agents with ethical considerations. Several research currents have developed models stemming from psychology and philosophy in an effort to adapt decision-making algorithms to consider ethical values so that the impact of agents on people is bounded and guided by these notions.Most of these approaches consist of either reasoning and applying a set of well-known ethical restrictions, also known as principles (top-down), or inferring them based on carefully crafted datasets through learning algorithms (bottom-up).In this thesis, we look at the problem of implementing these ethical principles in the context of tasks involving sequences of interdependent decisions, i.e: automated planning. We show how certain notions can be modeled using preference-based frameworks, as in top-down approaches, and how these preferences can be inferred from a corpus of data like bottom-up methodologies, to develop a hybrid approach that can be applied to planning problems. An implementation for each facet of our approach is provided in order to test our ideas in practical scenarios.
L'éthique des machines est un sous-domaine en plein essor de l'intelligence artificielle qui suscite intérêt et inquiétudes, en particulier en ce qui concerne le déploiement d'agents automatisés dansnotre vie quotidienne. À mesure que ces agents gagnent en indépendance vis-à-vis de l'intervention humaine et prennent des décisions susceptibles d'avoir un impact sur le bien-être humain, de réelles inquiétudes appraissent dans plusieurs domaines.Pour ces raisons, diverses approches ont été proposées pour apporter les agents automatisés de considérations éthiques. Plusieurs courants de recherche ont développé des modèles issus de la psychologie et de la philosophie dans le but d'adapter les algorithmes de prise de décision pour tenir compte des valeurs éthiques afin que l'impact des agents sur les personnes soit délimité et guidé par ces notions.La plupart de ces approches consistent soit à raisonner et à appliquer un ensemble de restrictions éthiques bien connues, également appelées principes (top-down), soit à les inférer sur la base d'ensembles de données soigneusement élaborés grâce à des algorithmes d'apprentissage (bottom-up).Dans cette thèse, nous examinons la mise en œuvre de ces principes éthiques dans le contexte de problèmes impliquant des séquences de décisions, c'est-à-dire : la planification automatique. Nous montrons comment certaines notions peuvent être modélisées à l'aide de cadres formels basés sur les préférences, comme dans les approches `top-down', et comment ces préférences peuvent être déduites d'un corpus de données comme les méthodologies `bottom-up', pour développer une approche hybride applicable à la planification automatique. Un logiciel pour chaque facette de notre approche est fournie afin de tester nos idées sur des scénarios pratiques.
Fichier principal
Vignette du fichier
JEDWABNY_2022_archivage.pdf (3.09 Mo) Télécharger le fichier
Origine : Version validée par le jury (STAR)

Dates et versions

tel-03923321 , version 1 (04-01-2023)
tel-03923321 , version 2 (10-02-2023)
tel-03923321 , version 3 (13-04-2023)

Identifiants

  • HAL Id : tel-03923321 , version 3

Citer

Martin Jedwabny. A preference-based approach to machine ethics for automated planning. Artificial Intelligence [cs.AI]. Université de Montpellier, 2022. English. ⟨NNT : 2022UMONS059⟩. ⟨tel-03923321v3⟩
155 Consultations
123 Téléchargements

Partager

Gmail Facebook X LinkedIn More