Quand pouvons-nous faire confiance aux algorithmes ?

Cockpit de Tesla

Un accident dramatique au Texas

Le weekend dernier, 2 personnes sont mortes dans un accident de voiture impliquant une Tesla, la fameuse marque créée par le fantasque milliardaire Elon Musk (2 killed in Driverless Tesla Car Crash, Officials Say). D’après la police, avec une certitude de 99% (je me demande ce qu’il y peut bien y avoir dans les 1% restant), aucune des deux n’était au volant au moment du choc. L’un se trouvait à l’avant, côté passager, et l’autre à l’arrière. Si bien qu’aucun n’a rien pu faire lorsque le pilote automatique de la voiture s’est trompé et les a encastré dans un arbre.

Les photos des restes de la Tesla Model S sont impressionnantes, le feu, ravivé par les composants de la batterie, l’ayant totalement ravagée.

Les restes de la Tesla accidentée au Texas

De nombreuses questions

Évidemment, cela n’est pas une bonne nouvelle pour Tesla et cet accident soulève, s’il y en avait besoin, de nombreuses questions sur le fait de confier des vies humaines à des programmes et des machines. Je suis sûr qu’en ce moment même, en regardant les photos de cette Tesla calcinée, vous vous dite que pour rien au monde, vous ne lâcheriez le volant d’un tel engin à moins d’être sûr à 100% que cela ne pourrait jamais arriver.

Confier sa vie à des algorithmes

Confier ses choix à des algorithmes, comme suivre les recommandations de Netflix ou bien celle d’un site de mode, ne vous pose certainement pas de problèmes. Mais en revanche, accepteriez-vous avec autant de tolérance les mêmes types d’algorithmes vous transporter dans une carlingue de plastique et d’acier à plus de 90km/h sur une route de nuit ou en plein milieu de la circulation parisienne ? C’est évidemment un autre sujet. Car, si nous, humains, aimons, volontairement ou pas, nous en remettre à des programmes pour guider nos vies, il n’en demeure pas moins au fond que si celles-ci peuvent être mises en jeu « pour de vrai », une petite voix en nous s’élève pour nous alerter.

Et pourtant, c’est bien ce que n’on pas fait les deux victimes malheureuses de cet accident en jouant sciemment avec leurs existences. En effet, bien que les Tesla peuvent entièrement prendre votre relais en tant que conducteur, cela ne peut se faire qu’à condition que vous restiez derrière le volant, prêt à reprendre le contrôle à tout instant. Ce que de toute évidence n’avaient pas fait ces deux personnes.

Cela pose la question de notre rapport aux algorithmes et à notre manière de nous y fier, mais cela pose aussi la question de la responsabilité de l’innovateur. Dans quelle mesure doit-il faire confiance à ses clients ? Et dans quelle mesure, en quelque sorte, doit-il les utiliser comme cobayes ?

Tesla est-il responsable ? La responsabilité de l’innovation

Oui, je sais, ce dernier mot est choquant, mais c’est pourtant bien ce que fait Tesla en prenant le risque que certains des utilisateurs de ses voitures ne se conforment pas à ses instructions avec le risque de conséquences tout à fait dramatiques. Dans quelle mesure, vous, innovateur, devez-vous confier le risque de l’innovation à vos clients ? Et c’est une véritable question.

Heureusement, rares sont les cas où une innovation risque de mettre en jeu la vie des gens. Le plus souvent, le niveau de risque est beaucoup plus mesuré et consiste plus simplement à entraver la vie des gens en les agaçant ou en leur faisant perdre du temps. Mais même cela est-il acceptable ? Pouvez-vous réellement mettre sur le marché un produit ou un service innovant qui générerait un stress chez vos clients ? Ou dont la réputation, chose qui se propage vite à l’ère des réseaux sociaux, créerait une mauvais atmosphère, un mauvais halo ?

Ce risque n’est pas acceptable non plus et est souvent mal évalué par les entreprises qui ont tendance à évacuer la perception humaine de la nouveauté et de la technologie, surtout à une époque de plus en plus technophobe au sein d’une partie de la population.

C’est une dimension qui doit absolument être prise en compte dans l’innovation : quelles appréhensions, même absurdes à priori, vais-je engendrer parmi la population cible de mon marché ? Quels craintes vais-je suggérer ? Et comment y parer ? Même sur un produit « innocent », vous devez-vous poser la question en interrogeant les gens. Vous seriez sûrement surpris par les réponses !

Photo par Bram Van Oost

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *