Fermer

mars 25, 2022

Comment enquêter lorsqu'un robot provoque un accident


Les robots sont de plus en plus présents dans notre quotidien. Ils peuvent être incroyablement utiles (membres bioniques, robots tondeuses ou robots quilivrer des repas aux personnes en quarantaine), ou simplement divertissantes (chiens robots, jouets dansants et drones acrobatiques). L'imagination est peut-être la seule limite à ce que les robots pourront faire à l'avenir.

Que se passe-t-il, cependant, lorsque les robots ne font pas ce que nous voulons qu'ils fassent – ​​ou le font d'une manière qui cause du tort ? Par exemple, que se passe-t-il si un bras bionique est impliquédans un accident de la route?

Les accidents de robots deviennent préoccupants pour deux raisons. Premièrement, l'augmentation du nombre de robots entraînera naturellement une augmentation du nombre d'accidents dans lesquels ils sont impliqués. Deuxièmement, nous nous améliorons dans la construction de robots plus complexes. Lorsqu'un robot est plus complexe, il est plus difficile de comprendre pourquoi quelque chose s'est mal passé.

La plupart des robots fonctionnent sur diverses formes deintelligence artificielle (IA). Les IA sont capables de prendre des décisions de type humain (bien qu'elles puissent en prendre objectivement de bonnes ou de mauvaises). Ces décisions peuvent être multiples, de l'identification d'un objet à l'interprétation de la parole.

Les IA sont formées pour prendre ces décisions pour le robot sur la base d'informations provenant de vastes ensembles de données. Les IA sont ensuite testées pour leur précision (dans quelle mesure elles font ce que nous voulons qu'elles fassent) avant de définir la tâche.

Les IA peuvent être conçues de différentes manières. Prenons l'exemple de l'aspirateur robot. Il pourrait être conçu de sorte que chaque fois qu'il heurte une surface, il redirige dans une direction aléatoire. À l'inverse, il pourrait être conçu pour cartographier son environnement pour trouver des obstacles, couvrir toutes les surfaces et revenir à sa base de chargement. Alors que le premier aspirateur reçoit les données de ses capteurs, le second suit ces données dans un système de cartographie interne. Dans les deux cas, l'IA recueille des informations et prend une décision en conséquence.

Plus un robot est capable de choses complexes, plus il doit interpréter de types d'informations. Il peut également s'agir d'évaluer plusieurs sources d'un type de données, telles que, dans le cas de données sonores, une voix en direct, une radio et le vent.

À mesure que les robots deviennent plus complexes et sont capables d'agir sur une variété d'informations, il devient encore plus important de déterminer sur quelles informations le robot a agi, en particulier lorsqu'un dommage est causé.

Les accidents arrivent

Comme pour tout produit, les choses peuvent mal tourner avec les robots. Parfois, il s'agit d'un problème interne, comme le robot qui ne reconnaît pas une commande vocale. Parfois, c'est externe – le capteur du robot a été endommagé. Et parfois, cela peut être les deux, comme le robot qui n'est pas conçu pour fonctionner sur des tapis et qui « trébuche ».Enquêtes sur les accidents de robotsdoit examiner toutes les causes potentielles.

Bien qu'il puisse être gênant que le robot soit endommagé lorsque quelque chose ne va pas, nous sommes beaucoup plus préoccupés lorsque le robot cause des dommages à une personne ou ne parvient pas à atténuer les dommages à une personne. Par exemple, si un bras bionique ne parvient pas à saisir une boisson chaude, il la fait tomber sur le propriétaire ; ou si un robot de soins ne parvient pas à enregistrer un appel de détresse lorsque l'utilisateur fragile est tombé.

Pourquoi les enquêtes sur les accidents de robots sont-elles différentes de celles sur les accidents humains ? Notamment, les robots n'ont pas de motifs. Nous voulons savoir pourquoi un robot a pris la décision qu'il a prise en fonction de l'ensemble particulier d'entrées qu'il avait.

Dans l'exemple du bras bionique, s'agissait-il d'une mauvaise communication entre l'utilisateur et la main ? Le robot a-t-il confondu plusieurs signaux ? Verrouiller de manière inattendue ? Dans l'exemple de la personne qui tombe, le robot ne pourrait-il pas « entendre » l'appel à l'aide par-dessus un ventilateur bruyant ? Ou a-t-il eu du mal à interpréter le discours de l'utilisateur ?

La boîte noire

Les enquêtes sur les accidents de robots présentent un avantage clé par rapport aux enquêtes sur les accidents humains : il existe un potentiel pour un témoin intégré. Les avions commerciaux ont un témoin similaire :la boite noire , construit pour résister aux accidents d'avion et fournir des informations sur les raisons de l'accident. Ces informations sont extrêmement précieuses non seulement pour comprendre les incidents, mais aussi pour les empêcher de se reproduire.

Dans le cadre deRobotTIPSun projet qui se concentre sur l'innovation responsable pour les robots sociaux (robots qui interagissent avec les gens), nous avons créé ce que nous appelons leboîte noire éthique : un enregistrement interne des entrées du robot et des actions correspondantes. La boîte noire éthique est conçue pour chaque type de robot qu'elle habite et est conçue pour enregistrer toutes les informations sur lesquelles le robot agit. Cela peut être vocal, visuel ou mêmeactivité des ondes cérébrales.

Nous testons la boîte noire éthique sur une variété de robots dans des conditions d'accident en laboratoire et simulées. L'objectif est que la boîte noire éthique devienne la norme dans les robots de toutes marques et applications.

Si les données enregistrées par la boîte noire éthique doivent encore être interprétées en cas d'accident, disposer de ces données en premier lieu est crucial pour nous permettre d'enquêter.

Le processus d'enquête offre la possibilité de s'assurer que les mêmes erreurs ne se reproduisent pas deux fois. La boîte noire éthique est un moyen non seulement de construire de meilleurs robots, mais aussi d'innover de manière responsable dans un domaine passionnant et dynamique.

Cet article deKeri GriemanChercheur associé, Département d'informatique,Université d'Oxfordest republié deLa conversation sous licence Creative Commons. Lis learticle original.




Source link