Contenu

Vous êtes iciAccueil » Économie » Une


Tout l’être humain est-il algorithmable ?

Campus_Algorithmable.jpg

Campus_Algorithmable.jpg

Tel est le thème de travaux menés au sein du collectif « Students ex Machina », par un groupe d’étudiants toulousains de différentes disciplines. Rachel Delpierre, en master droit du numérique à UT Capitole, a participé à ces échanges stimulants. Interview.

13 septembre 2019 imprimer en PDF

Comprendre pour entreprendre : Quel est l’objectif du collectif Students ex Machina, et quel y est votre rôle ?

Rachel Delpierre : Ce collectif toulousain aborde les questions relatives aux avancées rapides des technosciences. Nous sommes douze étudiants en droit du numérique de l’Université Toulouse Capitole à y avoir participé l’an dernier. Dans mon groupe, se sont côtoyés des étudiants de disciplines très variées, en bio-santé, en sociologie, en gestion, en philosophie, et un élève-ingénieur de l’ISAE. Nous avons abordé ensemble différentes questions, en réfléchissant par exemple à l’idée qu’un robot puisse avoir des émotions. Juliette Dumont, une étudiante en droit éthique ayant participé à la première édition de Students ex Machina, a été recrutée en service civique par le GREP pour aider à organiser cette seconde édition.

Comment avez-vous travaillé ?

Nous avons organisé avec notre groupe près de dix réunions et débats pendant l’année 2018-2019, avec un tuteur du GREP pour nous encadrer. Nous avons aussi eu de nombreuses conversations sur les réseaux sociaux. Nous nous sommes beaucoup enrichis les uns les autres, en nous efforçant d’expliquer avec des mots simples les concepts qui relevaient chacun de notre discipline.

Quel est votre intérêt pour ce projet, en tant qu’étudiante en droit ?

En droit, la notion de subjectivité du juge, par exemple, est difficile à concilier avec l’usage de l’intelligence artificielle. J’ai dû expliquer à mes collègues, qui étudiaient d’autres disciplines, en quoi consistait exactement cette notion. J’ai, par ailleurs, été désignée pour présenter en juin 2019, nos travaux sur le thème « Tout l’être humain est-il algorithmable ? », lors d’une réunion de l’association « Toulouse is AI » qui rassemble une bonne partie de l’écosystème toulousain en matière d’intelligence artificielle.

Alors, tout l’être humain est-il ou n’est-il pas algorithmable ?

Aujourd’hui non, mais il le sera peut-être dans vingt ans. Il reste encore des obstacles. Si la justice est rendue par un robot, par exemple, certaines décisions peuvent être empreintes de racisme ou de jugements de valeur. Aux États-Unis, par exemple, un algorithme peut partir du principe que les récidives sont plus probables dans la communauté afro-américaine car c’est effectivement la communauté la plus représentée en prison. Le problème, quand un algorithme tourne tout seul, c’est que le choix des données de départ peut amener ainsi à des résultats biaisés.

La justice est forcément subjective…

En matière de contravention, il y a des données objectives, une vitesse à ne pas dépasser par exemple. Mais pour les délits et les crimes, on parle de personnalisation des peines. Comment un robot peut-il juger en son âme et conscience ? À moins de lui fabriquer une fausse conscience humaine et de lui installer tous les filtres d’informations inhérents à l’humain, c’est impossible. L’importance de la subjectivité en matière de culpabilité empêche un robot de rendre justice. C’est le cas aussi pour la propriété littéraire et artistique, concernant le critère de l’originalité de l’œuvre. Pas facile pour un robot de décider seul en ce domaine !

Il y a aussi le problème de la transparence des algorithmes.

Les algorithmes les plus puissants sont ceux qui sont auto-apprenants (« deep-learning »). Ils tournent avec leurs propres données, mais sont incapables d’expliquer le cheminement de leurs calculs. Or, le Conseil Constitutionnel a décidé, que, pour pouvoir mettre en œuvre un algorithme, il fallait pouvoir expliquer comment ses résultats étaient générés. Une loi sera adoptée dans ce sens en 2020. Cela va limiter la possibilité d’utiliser de tels outils.

En biologie, les algorithmes ont également leurs limites…

L’algorithme qui tente de reproduire les réseaux neuronaux du cerveau, en reproduisant sa forme, ses différentes zones, sa plasticité et ses connexions, est impossible à réaliser. Pour reproduire l’énergie qui fait fonctionner un cerveau humain, soit cent trillions de synapses et cent milliards de neurones, il faudrait cinq centrales nucléaires ! De la même façon, il est difficile de recréer le fonctionnement des cellules vivantes, car on sait aujourd’hui, qu’au-delà de la génétique, certains éléments extérieurs peuvent modifier l’être humain sur plusieurs générations. Il reste très difficile de traduire le vivant en algorithmes.


L’intelligence artificielle à l’Université Toulouse Capitole

L’université est partie prenante de l’Institut toulousain de l’intelligence artificielle et naturelle (Aniti), lancé en 2018 avec l’ambition de doubler le nombre de jeunes formés dans ce domaine à Toulouse à horizon 2023.

Les chercheurs rattachés à l’Institut de Recherche en Informatique de Toulouse (Irit) contribuent activement au développement d’outils adaptés aux besoins des organisations publiques et privées.

Au sein de l’école d’économie de Toulouse (TSE), le Digital center consacre de nombreux travaux au sujet.

Les questions éthiques mobilisent tout particulièrement certains chercheurs comme Jean-François Bonnefon, expert en psychologie cognitive et Céline Castets-Renard, spécialiste en droit du numérique.

L’acceptabilité des outils utilisant l’intelligence artificielle est une thématique de recherche centrale du programme Aniti.
 

 

Colloque Droit du numérique

Students ex Machina

Depuis la rentrée 2017, une cinquantaine d’étudiants de Toulouse ont participé à Students ex Machina, dont une dizaine d’étudiants en droit.

Interview de Rachel Delpierre dans Le Point
.

 

Universit� Toulouse 1 Capitole
En appuyant sur le bouton "j'accepte" vous nous autorisez à déposer des cookies afin de mesurer l'audience de notre site. Ces données sont à notre seul usage et ne sont pas communiquées.
Consultez notre politique relative aux cookies