Bien avant les « Trust & Safety Teams » de la Silicon Valley, l'obsession de brider les machines pour les rendre inoffensives est née dans les pages d'un magazine pulp américain à 20 cents. Mais de la théorie à la réalité, le fossé est vertigineux.
Le père des verrous : Isaac Asimov
Né en Russie en 1920 et élevé à Brooklyn, Isaac Asimov n'était ni codeur ni ingénieur en machine learning. Biochimiste de formation, il est surtout l'un des romanciers les plus prolifiques du XXe siècle. Nous sommes au début des années 1940, en plein âge d'or de la science-fiction. À l'époque, les robots de la littérature souffrent presque tous du « complexe de Frankenstein » : ce sont d'inévitables monstres de métal qui finissent par massacrer leur créateur dans un bain de sang, ou, à l'inverse, des victimes tragiques et larmoyantes.
Asimov, poussé par son légendaire éditeur John W. Campbell (passé par le MIT), en a par-dessus la tête de ce cliché technophobe. Pour lui, un robot n'est pas une entité mystique bourrée de ressentiments. C'est une machine industrielle. Et, comme n'importe quel outil puissant, qu'il s'agisse d'une scie circulaire ou d'une automobile, il doit être conçu par des ingénieurs avec des mécanismes de sécurité intégrés. C'est ainsi qu'en 1942, dans sa nouvelle Cercle vicieux (Runaround), il formalise ce qui deviendra le saint Graal conceptuel de l'éthique de l’IA : les lois de la robotique.
