HNICNRSParis

Intelligence Artificielle et Robotique: Quelle éthique?

RajaChatilaInstitutdesSystèmesIntelligentsetdeRobotique(ISIR)

SorbonneUniversité,Paris,FranceRaja.Chatila@sorbonne-universite.fr

MembredelaCERNA,Commissionderéflexionsurl’éthiquedelarechercheensciencesettechnologiesdunumérique

Chair,TheIEEEGlobalInitiativeonEthicsofAutonomousandIntelligentSystems

�1

ColloqueHumainetNumériqueenInteractionCNRS,1/02/2019

HNICNRSParis

Applications de l’IA et de la robotique: production industrielle, milieux hostiles, santé, services, transport, agriculture, construction, loisirs, défense,…

•Remplacerleshumains(tâchesrépétitives,dangereuses)

•Assisterleshumains

•Réhabiliter/augmenterleshumains

�2

HNICNRSParis

Questions “Ethiques, Légales Sociétales”• Transformationdutravail• Vieprivéeetsurveillance• Donnéesetbiais

• Transparence,explicabilitédesalgorithmes• Décisionsautonomesetresponsabilité

• Autonomiehumaineetmanipulation• Liensaffectifs,attachement,isolement• Dignitéhumaine• Transformationdel’êtrehumain

• Statutdurobotdanslasociété

• Usagesetapplicationsproblématiques(robotssexuels,armesautonomes,…)

�3

HNICNRSParis

HLEG-AI: “Ethical Purpose”

• “Togiveanexampleoftherelationshipbetweenfundamentalrights,principles,andvaluesletusconsiderthefundamentalrightconceptualisedas‘respectforhumandignity’.Thisrightinvolvesrecognitionoftheinherentvalueofhumans(…).• Thisleadstotheethicalprincipleofautonomywhichprescribesthatindividualsarefreetomakechoicesabouttheirownlives,beitabouttheirphysical,emotionalormentalwellbeing(i.e.sincehumansarevaluable,theyshouldbefreetomakechoicesabouttheirownlives).”

�4

The European Commission’s

HIGH-LEVEL EXPERT GROUP ON ARTIFICIAL INTELLIGENCE

DRAFT

ETHICS GUIDELINES FOR TRUSTWORTHY AI

Working Document for stakeholders’ consultation

Brussels, 18 December 2018

HNICNRSParis

Thèse de Church-Turing, 1936

• Lesfonctionscalculablessontexactementlesfonctionsrécursives(c-à-dreprésentablesparunalgorithmequisetermine)• LaMachineUniverselledeTuringestunmodèle“mécanique”delacalculabilité

�5

AlonzoChurchAlanTuring

HNICNRSParis

Naissance de l’Intelligence Artificielle: Dartmouth College 1956

JohnMcCarthy NathanielRochester

ClaudeShannonMarvinMinsky�6

Thestudyistoproceedonthebasisoftheconjecturethateveryaspectoflearningoranyotherfeatureofintelligencecaninprinciplebesopreciselydescribedthatamachinecanbemadetosimulateit.Anattemptwillbemadetofindhowtomakemachinesuselanguage,formabstractionsandconcepts,solvekindsofproblemsnowreservedforhumans,andimprovethemselves.

HNICNRSParis

Le robot

•Machinematériellesituéedanslemonderéel.

•Unparadigmedel’IA“incarnée”ou“encorporée”

• L’intelligencevuecommel’interactionrationnelleaveclemonderéel

• Perception;actionetmouvement;décision.

• Communication,interaction.

•Apprentissage.• Capacitésdéveloppéesàdiversdegrésdecomplexité,permettantdesniveauxd’autonomiedifférentsdelamachine.

�7

HNICNRSParis

Une définition

• UnsystèmenumériqueintelligentestnécessairementunemachinedeTuringUniverselle• Ilestbasésurdesalgorithmesutilisantdesdonnéespourrésoudredesproblèmes[plusoumoins]complexesdansdessituations[plusoumoins]complexes.• Cesystèmepeutinclurelacapacitéd’améliorersesperformancesenclassantouencombinantdesdonnées(p.ex.,parapprentissage)ouenévaluantdesactionsantérieurespourensélectionnerdemeilleures(p.exparapprentissageparrenforcement).

�8

HNICNRSParis

Les machines peuvent-elles prendre des décisions éthiques?• L’autonomiehumaineestfondéesurl’agentivité-lacapacitédedélibéreretd’agirintentionnellementetenconscience.• Lesprocessuscomputationnels(algorithmes)sontconçusparleshumains;lesmachinesopèreàunniveausyntactique.• Lesmachinesn’ontpasunecompréhensiondesfondementsdeleursdécisionetdeleursactions.• Ladignitéhumainen’estpasexplicitementdécriteetnepeutêtreappriseàunemachinesyntactique.• Lesmachinesnepeuventpasdéterminerlesvaleurséthiques.

�9

HNICNRSParis

La question de confiance

• Lesmachinesnepeuventpasprendredesdécisionséthiques

• …maisellespeuventeffectuerdeschoixetdesactionsquiontdesconséquenceséthiques

• Confiance:lesmachinesdoiventrespecterlesvaleursdécritesparleshumains.

�10

HNICNRSParis

Principes éthiques (AI4People; HLEG-AI)

• Principedebienfaisance:“fairelebien”• Principedenon-malfaisance:“nepasfairelemal”• Principed’autonomie:“préserverl’agentivitéhumaine”• Principedejustice:“êtrejuste”• Principed’explicabilité:“agirdemanièretransparente”

�11

HNICNRSParis

Principes éthiques pour les systèmes Autonomes et Intelligents (IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems)

• Respectdesdroitshumains• Améliorationdubien-êtrehumain• Autonomiehumainedanslamaîtrisedesdonnéespersonnelles,del’identiténumérique• Aptitudeàl’objectif:lesystèmedoitêtreconçudemanièreàaccomplirlatâcheattendueetêtreprévisible• Transparence:Ildoittoujoursêtrepossibledeconnaîtrelestenantsdesdécisions• Responsabilité(Accountability):Laresponsabilitédemeurecelledeshumainsquisontderrièrelessystèmes• Anticiperetprévenirlesmes-usagesetconséquencesinattendues• Compétencehumainedanslacréationetl’utilisationdessystèmes

�12

�13

Attributes

Threats

Means

Dependability

AvailabilityReliability

Safety

Confidentiality

Integrity

Maintainability

FaultPrevention

FaultTolerance

FaultRemoval

FaultForecasting

Faults

Errors

Failures

Dependability:DeliveryofservicethatcanjustifiablybetrustedResilience:Thepersistenceofservicedeliverythatcanjustifiablybetrusted,whenfacingchanges.

Laprieetal.2000

HNICNRSParis

Résilience

�14

Apprentissage pour reconnaissance de visages

�15

Biais• Donnéesreprésentantlapopulations?• Choixdescaractéristiquesextraites?• Significationdesclasses?• …

Confiancedel’utilisateurdanslesrésultats• Transparence:qu’est-cequ’unvisage?

Architecture• Structureetparamètresduréseau?

HNICNRSParis

Les algorithmes ignorent le contexte

�16

Ningbo,Chine

(image:Weibo)

Implementation

• Ethiquepardesign:Méthodesdedéveloppementpourconcevoirdessystèmesrespectantlesprincipesetlesvaleursquiendécoulent.• Vérificationetvalidationadaptéesausystèmesapprenants• Définitiondestandardspourfaciliterledéveloppementdessystèmes• Certification:autoritésetorganismescapablesdefournirdesmoyensetméthodesdetestetdevalidationpourétablirlaconfiance.

�17