Analyzing the Effect of Deceiving Agents in a System of Self-Driving Cars at an intersection - a computational model

Abstract

The creation of protocols for autonomous intersection management is an active research topic with the potential of increasing the capacity of intersections addressing the increasing demand on roads. Most of the proposed protocols assume that all the vehicles involved will behave pro-socially, that is, in a way that improves the outcome of the system over their individual gain. We simulated three different autonomous intersection protocols, two centralized and one decentralized, introducing some egoistic agents that we call deceiving vehicles. Deceiving vehicles may decide to transmit false information while using a protocol if they detect that doing so can result in a lower delay in the intersection. Our simulations show that in two of the protocols, it is possible for a deceiving vehicle to experience lower delay times compared to its non-deceiving counterparts. Additionally, as more deceiving vehicles enter the system the overall capacity of an intersection can be reduced, increasing delays for non-deceiving vehicles which creates an incentive for more vehicles to deceive. We pose that, given that vehicles have an incentive to deceive, autonomous intersection protocol's authors need to consider deceiving vehicles in their design and include measures to prevent them, thus avoiding the performance degradation they produce.

La creación de protocolos de manejo autónomo de intersecciones es un tema de investigación activo que tiene el potencial de aumentar la capacidad de las intersecciones aportando a la solución del problema del creciente aumento en la demanda en las vías. La mayoría de los protocolos propuestos asumen que todos los vehículos se comportan de manera prosocial, es decir, que actúan de una manera que beneficia al sistema sobre su propio beneficio. Nosotros simulamos tres protocolos de intersección autónomos, dos centralizados y uno descentralizado, introduciendo algunos agentes egoístas que llamamos vehículos engañosos. Los vehículos engañosos pueden decidir transmitir información falsa cuando usan un protocolo si detectan que hacerlo puede resultar una demora menor en la intersección. Nuestras simulaciones muestran que, en dos de los protocolos, es posible que los vehículos engañosos experimenten demoras menores frente a sus contrapartes no-engañosos. Asimismo, conforme más vehículos engañosos son introducidos en el sistema, la capacidad total de la intersección se ve reducida, aumentando las demoras para los vehículos que no son engañosos lo que genera un incentivo para que más vehículos sean engañosos. Proponemos que, dado que los vehículos tienen incentivos para engañar, los autores de protocolos de intersecciones autónomas deben considerar los vehículos engañosos en su diseño e incluir medida para prevenirlos, evitando así la degradación en rendimiento que producen.