Session 1 : Intelligence artificielle, bêtise artificielle et fonction du calcul

Mardi 19 décembre – 9h30-13h

Norbert Wiener pose dès 1948 et à propos de la cybernétique – dont l’intelligence artificielle est évidemment un cas spécifique – qu’elle suppose une reconsidération fondamentale des caractéristiques et de la place des savoirs humains dans les sociétés fondées sur les machines, faute de quoi on serait porté à craindre qu’advienne une grande régression. Cette matinée tentera de reprendre en vue ces méditations dans le contexte spécifique du XXIème siècle et tel que le hante ce qu’on appelle la “post-vérité”, dont les weapons of math destruction[1] sont opératrices.

[1] Cathy O’Neil, Weapons of math destruction, How Big Data Increases Inequality and Threatens Democracy – September 6, 2016

Intervenants

David Bates, histoire des sciences (Un. Berkeley)

Giuseppe Longo, mathématiques et biologie (ENS)

Elaboration et transmission de l’information : deux sciences plaquées abusivement sur le réel. Dualisme et perte de sens

La singularité de la vie humaine est le résultat de l’évolution biologique et de l’histoire humaine. Par des gestes actifs et le langage, nous produisons du sens au sein de la communauté communicante humaine; nous délimitons et qualifions les phénomènes, nous co-construisons des objets de connaissance et d’objectivité. L’utilisation actuelle de machines à états discrets (numériques) à la fois en tant que modèles mathématiques et en tant que paradigme en sciences et en sciences humaines crée des biais particuliers dans la construction des connaissances. Leurs réseaux d’élaboration de l’information fournissent des outils fantastiques pour les activités humaines, mais aussi une image du monde. La confusion entre «élaboration de l’information» et «production de sens» affecte notre humanité et nos façons de savoir. Le fort dualisme des appareils informatiques (logiciel ou matériel) brouille la matérialité radicale et la singularité physique de la vie. La distorsion des connaissances qui en découle est également fondée sur l’abus de notions pré-scientifiques ou de bon sens provenant des théories de l’information et de la programmation en biologie.

Laurence Devillers, robotique (Limsi/CNRS)

Interaction affective Humain-robot : défis technologiques, éthiques et sociétaux

En robotique plus que dans tout autre domaine, la science fiction a précédé la science. Les robots fascinent et cristallisent les peurs avec l’angoisse d’être un jour dominés, voir supplantés par eux. Nos peurs se nourrissent des mythes, fantasmes et fictions mais surtout d’une méconnaissance fondamentale des avancées de la technologie. La majorité des personnes ne font pas de différence entre les récents progrès en Intelligence Artificielle et la complexité d’un robot socialement intelligent. Ces peurs attisées dans les médias par le courant transhumaniste masquent malheureusement une réalité plus pragmatique : la nécessité de préparer la société à l’arrivée des robots. Etablir une relation sociale et affective avec les machines n’est plus seulement un rêve d’auteur de science fiction, mais bien une thématique émergente de nombreux chercheurs. Ces robots vont habiter nos maisons et également partager avec nous une histoire. Nos capacités d’empathie peuvent conduire à s’illusionner sur les capacités réelles des robots, leur irruption dans nos vies nécessite une réflexion éthique. Si les robots apprennent seuls comme des enfants, il est souhaitable de les programmer avec des valeurs morales, des règles de vie en société et de contrôler leur apprentissage. A partir de son expertise de chercheur en interaction homme-machine, en informatique émotionnelle et éthique, Laurence Devillers propose d’enrichir les lois d’Asimov avec 11 “commandements” éthiques pour des robots loyaux. Il s’agit avant tout de susciter des questionnements sur les robots et leur place dans la société, notamment dans les secteurs de la santé, du bien-être et de l’éducation.