Le danger de « Rosie la robot de location » à l’ère de la réglementation des robots dotés d’IA au Canada
Auteur:
Leah Davis
AJung Moon

Avertissement : La version française de ce texte a été traduite automatiquement et n'a pas été approuvée par l'auteur.
Imaginez la célèbre femme de ménage robot de Les Jetsons—Rosie—sauf qu'au lieu d'en être propriétaire, vous êtes lié par un contrat mensuel qui peut changer à tout moment. L'industrie de la robotique évolue rapidement vers un avenir où les machines intelligentes vivront parmi nous. La nouvelle stratégie canadienne en matière d'IA reconnaît l'importance croissante des technologies physiques basées sur l'IA, et identifie la fabrication et la robotique comme l'un de ses cinq secteurs prioritaires. Cependant, la stratégie n'aborde pas explicitement la précarité de la propriété des machines dotées d'IA. et Il est peu probable que les logiciels indispensables au fonctionnement continu des dispositifs physiques soient entièrement détenus par des particuliers et des organisations, ce qui crée un dangereux schéma de dépendance.
Les entreprises technologiques et la couverture médiatique qui les entoure voudraient nous faire croire que les robots domestiques qui cuisinent, nettoient, prennent soin de nos aînés et gèrent les tâches quotidiennes ne relèvent plus de la science-fiction. S'appuyant sur les progrès fulgurants de l'intelligence artificielle, l'industrie technologique souhaite que ces robots deviennent aussi courants que les smartphones. Mais si les modèles économiques actuels du secteur technologique sont transposés à la robotique, les robots qui entreront dans nos foyers risquent de ne pas vraiment nous appartenir.
Imaginez embaucher une aide à domicile par le biais d'une entreprise qui facture un forfait mensuel. Vous faites confiance à l'entreprise pour choisir une personne qualifiée. Au fil du temps, cette personne devient indispensable à votre quotidien. Puis, un jour, vous recevez un avis : le prix mensuel triple et l'aide à domicile ne peut désormais utiliser que des appareils de la marque partenaire de l'entreprise. Changer de prestataire n'est pas chose facile, et des millions d'autres personnes pourraient se retrouver confrontées au même problème. Dans un avenir proche, ce scénario pourrait même concerner des robots. Dans le secteur technologique, l'abonnement est devenu la norme. Nous nous abonnons déjà à des logiciels, des divertissements et même certaines fonctionnalités automobiles. Les entreprises de robotique semblent désormais prêtes à suivre la même voie. Certains robots domestiques en développement sont déjà commercialisés par le biais d'abonnements mensuels pouvant coûter plusieurs centaines d'euros. À première vue, cela paraît raisonnable. Les abonnements permettent de réduire les coûts initiaux et aux entreprises de mettre à jour régulièrement leurs systèmes. Mais appliqués aux robots, ces machines qui pourraient vivre chez nous et interagir avec nos familles, les conséquences sont bien plus importantes. Le problème fondamental est celui de la propriété. Vous aurez peut-être la possibilité d'acquérir le matériel, la « coque » du robot, mais vous n'aurez pas la possibilité d'acquérir le logiciel, « l'âme » du robot qui lui permet de se déplacer, de réagir et de fonctionner.
Avec de nombreux modèles d'abonnement, les consommateurs peuvent dépenser des milliers de dollars au fil du temps sans pour autant bénéficier des droits fondamentaux généralement associés à la propriété d'un produit. Ils peuvent se trouver dans l'impossibilité de réparer, modifier, revendre ou continuer à utiliser le robot si l'entreprise cesse le support. L'accès à la machine elle-même peut disparaître après une mise à jour logicielle ou un changement de stratégie d'entreprise. Le problème est bien plus profond. En effet, les robots grand public intègrent de plus en plus un autre type d'IA, appelé modèles de base, développé par un petit nombre de grandes entreprises technologiques hors du Canada (par exemple, OpenAI, Google, Anthropic) pour leur permettre de comprendre le langage, de reconnaître des objets et de planifier des actions. À l'instar de dizaines de milliers de développeurs à travers le monde, la plupart des entreprises de robotique ne conçoivent pas elles-mêmes ces modèles d'IA. Elles intègrent plutôt ceux créés par les grands fournisseurs d'IA.
Cela crée une chaîne de dépendance fragile. Si les entreprises fournissant l'IA modifient leurs prix, leurs conditions ou leur accès technique, les fabricants de robots pourraient n'avoir d'autre choix que de répercuter ces coûts sur leurs clients, voire de cesser complètement de proposer leurs produits. Il pourrait en résulter un écosystème robotique où une poignée de fournisseurs d'IA façonnent discrètement les capacités des robots, leur prix et même leur fonctionnement. Un grave problème de sécurité se pose également. Les robots évoluant dans le monde physique présentent des risques que les logiciels seuls ne comportent pas. Un algorithme défectueux pourrait frustrer les utilisateurs. Un robot défectueux pourrait blesser quelqu'un. Or, aujourd'hui, il existe peu de moyens fiables d'évaluer la sécurité globale de ces systèmes. Les entreprises intégrant des modèles d'IA manquent souvent de visibilité complète sur la manière dont ces modèles ont été conçus ou entraînés. En cas de problème, l'entreprise de robotique déployant la machine pourrait en subir les conséquences juridiques et publiques, même lorsque le problème sous-jacent réside dans un système d'IA qu'elle ne peut examiner en détail.
Autrement dit, les entreprises pourraient être amenées à garantir la sécurité de systèmes dont elles ne comprennent ni ne maîtrisent le fonctionnement interne. Les consommateurs pourraient se trouver confrontés à un décalage similaire entre leurs attentes et la réalité. Lorsqu'ils intègrent des robots à leur domicile, ils peuvent croire qu'ils en ont le contrôle total. Or, bien souvent, le véritable contrôle est exercé par de grands fournisseurs distants qui font des choix de conception en fonction de leurs valeurs, de leurs intérêts et des conditions d'utilisation. Les enjeux dépassent le cadre des foyers. Les hôpitaux et autres institutions publiques pourraient également devenir dépendants de systèmes robotiques dont l'intelligence artificielle est gérée ailleurs. Des activités entières pourraient reposer sur des services susceptibles de changer ou de disparaître du jour au lendemain.
La plupart des entreprises de robotique canadiennes avec lesquelles nous avons discuté au cours de la dernière année partagent une forte culture de la sécurité, déployant des robots qui utilisent exclusivement des techniques d'apprentissage automatique éprouvées et développées localement, plutôt que des modèles de base. Cependant, pour des pays comme le Canada, qui doivent concilier la nécessité de réglementer l'IA et la compétitivité mondiale dans ce domaine, ces questions ne doivent pas rester théoriques. Sans valoriser et encourager la culture canadienne de la robotique responsable, les pressions croissantes de l'industrie pour adopter et intégrer de nouveaux modèles d'IA pourraient façonner la structure d'un secteur majeur de l'avenir. La stratégie canadienne en matière d'IA met l'accent sur le passage de l'expérimentation à l'adoption. Mais avant que les robots ne fassent partie intégrante de notre quotidien, les décideurs politiques doivent examiner sérieusement les structures d'incitation existantes et les dynamiques de pouvoir entourant la propriété, la responsabilité et la sécurité. Si nous ignorons dès maintenant les questions de propriété et de responsabilité, nous risquons de nous réveiller dans un monde où les technologies de nos foyers seront contrôlées par des entreprises avec lesquelles nous ne pourrons pas négocier et par des systèmes que nous ne pourrons pas vraiment comprendre. Rosie le robot est censé nous faciliter la vie. Ce serait plus facile pour tout le monde, et cela ne devrait pas se faire au prix d'un avenir dominé par l'IA qui pourrait ne jamais nous appartenir.

