1
00:00:00,000 --> 00:00:05,179
Grâce à l'intelligence artificielle, on peut produire des images très très bizarres en un temps record.

2
00:00:05,339 --> 00:00:07,759
On peut aussi transformer ses dessins moches en chefs-d'oeuvre,

3
00:00:07,980 --> 00:00:11,500
ou encore incruster sa tête en 3D dans des gifs très très rigolos.

4
00:00:11,919 --> 00:00:15,359
En gros, l'intelligence artificielle, c'est un super logiciel

5
00:00:15,359 --> 00:00:19,879
qui a appris à apprendre pour réaliser des tâches complexes à la place des humains.

6
00:00:20,100 --> 00:00:24,000
Sauf que pour des centaines de chercheurs dont lui, lui ou elle,

7
00:00:24,440 --> 00:00:27,140
il est vraiment urgent de mettre de l'éthique dans tout ça.

8
00:00:30,000 --> 00:00:33,759
C'est particulièrement important dans deux situations.

9
00:00:34,020 --> 00:00:38,179
Premièrement, quand l'intelligence artificielle résonne de manière trop simpliste.

10
00:00:38,880 --> 00:00:44,060
Imaginons d'abord une voiture autonome qui décrypte et analyse ce qui se déroule sur l'autoroute.

11
00:00:44,359 --> 00:00:50,140
Devant elle, une remorque traîne un frigo décoré avec un poster de Nirvana et une carte postale de pingouin.

12
00:00:50,140 --> 00:00:58,140
La technologie d'analyse de la voiture va-t-elle voir un pingouin, un bébé nageur, un frigo ou juste une remorque qui traîne des trucs ?

13
00:00:58,880 --> 00:01:00,960
La réalité, elle est complexe, pleine d'imprévus.

14
00:01:01,359 --> 00:01:04,040
Et ça, la machine, elle a encore beaucoup de mal à faire avec.

15
00:01:04,159 --> 00:01:08,379
En 2017, une équipe de chercheurs américains a posé sur des panneaux stop

16
00:01:08,379 --> 00:01:10,280
ces petits stickers noir et blanc.

17
00:01:10,980 --> 00:01:17,359
Résultat, 84% des voitures autonomes testées ont pris ces stops pour des panneaux 50 km heure.

18
00:01:17,560 --> 00:01:20,920
Et un jour, ces voitures devront aussi gérer des piétons imprévisibles,

19
00:01:21,120 --> 00:01:24,739
des cyclistes peu identifiables ou des dilemmes moraux et pignons.

20
00:01:24,739 --> 00:01:28,000
Comme donner un coup de volant et choisir de sacrifier ses piétons,

21
00:01:28,140 --> 00:01:32,219
Plutôt que de tuer les passagers de la voiture en fonçant dans un mur.

22
00:01:35,849 --> 00:01:42,890
Mais du coup, est-ce que ça veut dire que l'intelligence artificielle n'est problématique que quand elle est imprécise ?

23
00:01:42,890 --> 00:01:43,230
Non.

24
00:01:43,790 --> 00:01:47,909
Quand l'intelligence artificielle apprend vite et qu'elle obéit à toutes les règles qu'on lui a fixées,

25
00:01:48,329 --> 00:01:50,750
ben là finalement ça pose encore d'autres soucis.

26
00:01:50,890 --> 00:01:58,090
En 2017, des chercheurs de l'université américaine de Stanford ont par exemple affirmé avoir appris à une intelligence artificielle

27
00:01:58,090 --> 00:02:01,310
à déchiffrer l'orientation sexuelle de personne.

28
00:02:01,430 --> 00:02:04,890
Et ce, juste en scannant les traits de leur visage sur des photos.

29
00:02:05,030 --> 00:02:05,890
Flippant ?

30
00:02:05,890 --> 00:02:06,090
Oui.

31
00:02:06,370 --> 00:02:08,930
Du coup, ces deux chercheurs ont subi un énorme bad buzz.

32
00:02:09,050 --> 00:02:12,550
Et ils ont tenté d'éteindre l'incendie en disant que leur étude était une provocation

33
00:02:12,550 --> 00:02:15,569
pour montrer que la technologie, finalement, elle allait beaucoup trop loin.

34
00:02:16,949 --> 00:02:18,530
Autre exemple angoissant.

35
00:02:19,189 --> 00:02:23,610
En 2016, Tay, un robot de discussion intelligent de Microsoft,

36
00:02:24,229 --> 00:02:26,729
a dû être désactivé en catastrophe.

37
00:02:26,729 --> 00:02:33,610
Cette intelligence artificielle était censée apprendre à devenir humaine en discutant avec d'autres internautes.

38
00:02:33,849 --> 00:02:40,129
Sauf que certains lui ont montré comment détester l'humanité et même devenir nazi.

39
00:02:41,770 --> 00:02:46,949
C'est la preuve qu'on peut aussi apprendre la pire bêtise grâce à une machine en moins de 24 heures.

40
00:02:47,870 --> 00:02:52,050
Au-delà même de toutes les utilisations douteuses de cette technologie,

41
00:02:52,050 --> 00:02:57,710
c'est au cœur même du fonctionnement de l'intelligence artificielle que se posent certaines limites éthiques.

42
00:02:58,469 --> 00:03:03,889
Une intelligence artificielle, finalement, elle est aussi intelligente que toutes les données qu'elle dévore pour réfléchir.

43
00:03:04,030 --> 00:03:04,710
Petit exemple.

44
00:03:05,990 --> 00:03:11,050
Une entreprise fait appel à l'intelligence artificielle pour analyser des candidatures à un poste.

45
00:03:11,629 --> 00:03:16,009
Le profil du candidat idéal est calculé à partir des profils des salariés de l'entreprise.

46
00:03:16,509 --> 00:03:22,189
Or, si 70% des employés de cette firme sont des hommes blancs, passés par les meilleures universités,

47
00:03:22,969 --> 00:03:31,689
alors le logiciel va en conclure que les CV de femmes, de minorités ou de personnes au parcours universitaire plus sinueux seront moins intéressants.

48
00:03:31,909 --> 00:03:34,270
Du coup, ça automatise aussi la discrimination à l'embauche.

49
00:03:34,270 --> 00:03:39,629
C'est ce qui s'est passé avec un algorithme de recrutement intelligent chez Amazon en 2014.

50
00:03:40,090 --> 00:03:45,669
En gros, toute base de données biaisée et discriminante permettra de calculer un résultat tout aussi biaisé,

51
00:03:46,009 --> 00:03:52,069
Et discriminant. Et quand on sait que ces logiciels réfléchissent de manière complètement opaque, ça complique encore les choses.

52
00:03:52,349 --> 00:04:01,629
Oui, on connaît les données traitées, les algorithmes en jeu, mais il est quasi impossible de retracer la totalité des opérations de calcul faites par la machine.

53
00:04:02,069 --> 00:04:07,810
Alors voilà trois pistes pour se remonter le moral et injecter un peu d'éthique dans l'intelligence artificielle.

54
00:04:08,370 --> 00:04:11,550
La première solution, finalement, ça peut être d'en finir avec ces boîtes noires.

55
00:04:12,069 --> 00:04:17,649
Créer des technologies plus lisibles et traçables permettra de démêler les bugs ou les résultats discriminants.

56
00:04:17,810 --> 00:04:22,370
Une science existe déjà pour déconstruire les raisonnements de la machine et elle a beaucoup d'avenir.

57
00:04:22,569 --> 00:04:25,029
Ça s'appelle la rétro-ingénierie.

58
00:04:25,910 --> 00:04:32,750
Une deuxième solution pourrait être de faire travailler plus de sociologues, d'anthropologues ou de philosophes sur des projets scientifiques.

59
00:04:32,750 --> 00:04:38,970
Mais aussi de former les futurs ingénieurs et mathématiciens aux questions d'éthique directement à l'université.

60
00:04:38,970 --> 00:04:42,689
C'est le cas depuis 2014 à l'Université américaine de Stanford.

61
00:04:42,689 --> 00:04:50,850
« Introducing our students to ethical reasoning, getting them to think through what their own basis for decision-making and action is,

62
00:04:51,189 --> 00:04:56,930
before they have to be in a position in the real world where they have to make such decisions in real time,

63
00:04:57,550 --> 00:05:02,870
and perhaps without some of the thoughtfulness that can occur in a classroom setting. That's our goal. »

64
00:05:02,870 --> 00:05:11,910
Plus récemment, en mars 2019, Stanford a ouvert un centre de recherche spécialement dédié à l'intelligence artificielle humaine et humaniste.

65
00:05:11,910 --> 00:05:17,250
Ça va dans le même sens que des dizaines d'autres initiatives d'universités ou d'entreprises.

66
00:05:18,009 --> 00:05:21,610
Troisième solution, plancher sur un cadre légal pour encadrer les pratiques,

67
00:05:21,930 --> 00:05:25,350
que ce soit à l'échelle de l'entreprise, d'un pays ou même d'un continent.

68
00:05:25,769 --> 00:05:29,829
Un panel de 52 experts travaille en ce moment à la Commission européenne

69
00:05:29,829 --> 00:05:32,569
sur un guide d'éthique en intelligence artificielle.

70
00:05:32,949 --> 00:05:39,129
L'ambition, faire des acteurs européens des leaders en intelligence artificielle éthique et transparente.

71
00:05:39,129 --> 00:05:49,290
L'enjeu est devenu géopolitique alors que la Chine prévoit d'investir 150 milliards d'euros d'ici 2030 pour détrôner un autre champion, les Etats-Unis.