Dorian Burkhalter
Dado que los vehículos cada vez son más capaces de conducirse por sí solos, ¿hasta qué punto deberían poder explicar sus acciones? Para encontrar respuestas, un organismo de las Naciones Unidas plantea al público esta y otras preguntas relacionadas.
¿Qué ocurre cuando un vehículo sin conductor atropella a un niño que cruza la calle en una zona apartada en la que no hay testigos? ¿Detecta el coche que se ha producido una colisión? ¿Se detiene y llama a los servicios de emergencia? ¿Es capaz de explicar lo que ha ocurrido o puede el sistema de conducción de inteligencia artificial (IA) recordar qué decisiones ha tomado que le han llevado a arrollar a un peatón?
Estas son algunas de las preguntas que se plantean al público en una encuesta online denominada Molly Problem o Dilema de Molly.
“El Dilema de Molly es un experimento mental que se nos ocurrió como modo de centrar la atención de la gente en la información que es importante o, en el contexto de la inteligencia artificial (IA), qué nivel de explicabilidad se necesita en el sistema de IA para justificar lo sucedido y registrarlo”, dice Bryn Balcombe, presidente del grupo de discusión sobre IA para la conducción autónoma y asistida de la Unión Internacional de Telecomunicaciones . (ITU, por sus siglas en inglés), con sede en Ginebra.
Como no es de extrañar, los resultados preliminares de la encuesta muestran que la gente espera que un coche autónomo (sin conductor) no cometa un atropello. La gente tiene expectativas claras de que el sistema de conducción con IA registre datos suficientes como para que pueda explicar qué es lo que ha sucedido. Y, de hecho, la mayoría piensa que estos datos también deberían recogerse en caso de que el vehículo esté a punto de chocar (aunque no lo haga).
El grupo de discusión que dirige Balcombe cuenta con cerca de 350 participantes internacionales que representan a la industria automovilística, las telecomunicaciones, las universidades y los organismos reguladores. Estas personas están elaborando una propuesta de normativa técnica internacional –una recomendación de la ITU– para que se supervise el funcionamiento en carretera de los vehículos autónomos. El Dilema de Molly es parte de este esfuerzo.
El trabajo del grupo de la ITU aborda las lagunas actuales en la normativa y los reglamentos relativos a los vehículos autónomos. “La realidad es que no hay normas para detectar colisiones con peatones. No hay una normativa específica que aborde el registro de los datos de cuando están a punto de chocar e incluso de que se identifiquen los casi accidentes”, explica Balcombe, que también es director de estrategia de Roborace, un campeonato de carreras de coches autónomos o sin conductor.
El año pasado, el Gobierno de Suiza llevó a cabo consultas que deberían servir para modificar la actual ley de tráfico. El texto revisado permitirá adaptar mediante ordenanza la ley sobre los vehículos autónomos, por lo que no requiere aprobación del Parlamento. Y esto le daría flexibilidad para poder ir adaptándose a medida que los vehículos autónomos se vayan imponiendo.
El proyecto de norma del grupo tiene como objetivo respaldar los reglamentos y requisitos técnicos internacionales que los organismos de la Comisión Económica para Europa de las Naciones Unidas (UNECE, por sus siglas en inglés) deben actualizar con relación a los vehículos autónomos.
Balcombe se pregunta que “¿cómo se pueden tener en cuenta los principios acordados por los gobiernos de todo el mundo y trasladarlos a este mundo digital de inteligencia artificial?”.
A principios del próximo año, el grupo presentará su propuesta a la Unión Internacional de Telecomunicaciones; momento en el que el organismo decidirá si la convierte en una recomendación suya a la que los reguladores podrán hacer referencia.
IA para el Bien Común
Los esfuerzos del grupo para garantizar que los vehículos sin conductor mejoren la seguridad vial surgieron de los debates de la Cumbre Mundial de la ITU sobre IA para el Bien Común celebrada en 2019. Cada año más de un millón de personas mueren en accidentes de tráfico. Y nueve de cada diez muertes en carretera se producen en países de ingresos bajos y medios.
“La IA para el Bien Común se construyó sobre la premisa de que no tenemos mucho tiempo para alcanzar los Objetivos de Desarrollo Sostenible (ODS) de 2030, y la IA aumenta las posibilidades de lograr algunos de dichos objetivos”, cuenta Fred Werner, jefe de compromiso estratégico de la ITU y un catalizador para el lanzamiento de IA para el Bien Común (AI for Good).
La ITU espera aprovechar su modelo único de afiliación dentro del sistema de las Naciones Unidas, que incluye193 Estados miembros y más de 900 empresas privadas, universidades y otras organizaciones, para reunir a las diferentes partes interesadas con el objetivo de debatir las oportunidades y los retos de la IA.
“Los propios expertos en IA dirían que la IA es demasiado importante como para dejarla en manos de los expertos. Por eso, el objetivo de la cumbre es poner sobre la mesa el mayor número posible de voces diferentes”, afirma Werner.
Los resultados de IA para el Bien Común (AI for Good) han incluido a lo largo de los años varios grupos de discusión previos a la normalización, como el que preside Balcombe sobre los vehículos autónomos. Están estudiando, por ejemplo, el uso de la IA para la salud, la eficiencia energética y la gestión de desastres naturales.
Gobernanza
Angela Müller, directora de política y defensa de AlgorithmWatch Switzerland, una organización sin ánimo de lucro que supervisa los sistemas de IA y su impacto en la sociedad, se muestra escéptica ante el mensaje que puede transmitir IA para el Bien Común.
Según ella, algunas partes de la narrativa tienden a desviar el debate de las necesidades de los marcos de gobernanza. “Cuando se opta por esta narrativa, la de que la IA acabará salvando el mundo, entonces la solución sería invertir simplemente en investigación de la IA”, explica.
Para mantener un debate público sobre gobernanza basado en pruebas, es fundamental que haya transparencia sobre cómo funcionan los sistemas de conducción de IA. Por eso, Müller aplaude las investigaciones abiertas al público; investigaciones que se centran en explicar cómo los sistemas de IA toman decisiones y qué impacto tienen en las personas.
“Es muy importante que estas discusiones se produzcan ahora mismo y que este tipo de investigación tenga lugar, porque la necesitamos como base para nuestro debate sobre la gobernanza”.
En la actualidad, la Comisión Europea trabaja en la primera legislación del mundo para regular la IA. La propuesta que ahora se está debatiendo aborda los riesgos de esta tecnología y define obligaciones claras respecto a sus usos específicos. Suiza, de momento, no tiene nada comparable a la propuesta de legislación europea sobre IA.
Müller afirma que es importante asegurarse de que los procesos de normalización sean inclusivos, sobre todo porque pueden servir de modelo para normativas futuras. También considera necesario realizar esfuerzos reguladores por separado a nivel nacional e internacional, como el proyecto de legislación de la Comisión Europea, para garantizar que los proveedores sean responsables del comportamiento de los sistemas de conducción de IA que producen.
IA para la Seguridad Vial
A principios de este mes se ha puesto en marcha una nueva iniciativa sobre IA para la Seguridad Vial dirigida por la ITU, el enviado especial de la ONU para la seguridad vial y el enviado de la ONU para la tecnología. Su objetivo es fomentar los esfuerzos tanto públicos como privados para utilizar tecnologías de IA que aumenten la seguridad vial para todos los usuarios de las carreteras. Esto también debería ser aplicable a los países de ingresos medios y bajos.
La IA podría ayudar a dar sentido a los datos que, cada vez más, podrán recoger los vehículos, otros usuarios de la carretera y las infraestructuras. Tener mejores estadísticas sobre los accidentes, por ejemplo, podría ayudar a mejorar las infraestructuras viales y a agilizar las respuestas de emergencia.
“Los vehículos comparten datos entre sí, los vehículos comparten datos con los peatones, las infraestructuras comparten datos con ambos, y deberíamos utilizar esos datos con IA para mejorar la seguridad en las carreteras”, explica Balcombe. El grupo de discusión forma parte de la iniciativa más amplia IA para la Seguridad Vial (AI for Road Safety).
El precio de los vehículos autónomos seguirá siendo demasiado alto como para que de aquí a 2030 (fecha en la que deben cumplirse los objetivos de la ONU de reducir a la mitad las muertes en carretera) se adopten en los países de renta baja de manera generalizada. Pero, tal y como dice Balcombe, muchos de los datos que pueden recogerse sobre los vehículos sin conductor también pueden obtenerse de vehículos menos caros equipados con sistemas de conducción asistida.
“Por eso estamos realmente interesados en ampliar el papel del grupo de discusión, para empezar a ver cómo podemos tomar estas tecnologías, pero desplegar las más importantes y más valiosas en esos países para marcar la diferencia de aquí a 2030”.
Fuente: swissinfo.ch