“En el IRI aplicamos la inteligencia artificial en beneficio de las personas, desde asistentes robóticos que ayuden a vestir hasta el reciclaje de productos electrónicos”

“En 30 años Barcelona tendrá robots por todas partes, incluyendo las escuelas”

“Francia quiere impulsar el desarrollo de la IA a través de una tercera vía entre la hipervigilancia China y el modelo ultra liberal de Estados Unidos”

Carme Torras, profesora de investigación en el Institut de Robòtica i Informàtica Industrial IRI (CSIC – UPC) es una de las voces más reconocidas y autorizadas para hablar sobre la ética aplicada a los sistemas robóticos. Su opinión se ha escuchado en reuniones sectoriales de la UNESCO y en el reciente Global Forum on AI for Humanity, y su carrera profesional, a caballo entre los Estados Unidos y Barcelona, está alimentada por numerosas publicaciones y desarrollos tecnológicos. Y a todo eso se añade una intensa exitosa labor de divulgación. Una de sus novelas, ‘La mutación sentimental’, ha sido traducida al inglés para incorporarse como material de estudio sobre ética y robótica en diversas universidades norteamericanas y europeas.

¿Sería exagerado decir que tan importante como el desarrollo tecnológico de la robótica lo es el uso ético que se hace de ella?

No, no es exagerado hacer esa afirmación, yo creo mucho en eso. Sería bueno que la ciudadanía tuviera unos conceptos mínimos sobre inteligencia artificial (IA) y robótica, que conocieran cómo funcionan y qué beneficios pueden aportarles. Y también conocer los riesgos, claro.

Eso, en el caso de los usuarios ¿Pero y en el de quienes diseñan, desarrollan y venden este tipo de tecnología?

También. Los que se dedican a programar y desarrollar esta tecnología tienen que conocer los riesgos éticos a los que se enfrentan.  Los sesgos en los procesos de aprendizaje de este tipo de sistemas es uno de ellos, y lo estamos viendo en casos reales de inteligencia artificial. Hablamos de aspectos relacionados con el género, la raza o el lugar de residencia, que pueden ser tenidos en cuenta por algoritmos que, por ejemplo, predigan la probabilidad de reincidencia de un delincuente o de que un ciudadano no retorne un crédito, donde la historia previa puede introducir un sesgo importante.

¿Qué sistema se emplea para asegurar que se cumplen esos criterios éticos en las fases previas al lanzamiento de una tecnología robótica?

Existen mecanismos para ello. Por ejemplo, en todos los proyectos de investigación que financia la Unión Europea sobre robótica e IA es preciso superar una evaluación ética previa a la concesión. Los investigadores debemos aportar los protocolos donde se recoge cómo va a llevarse a cabo el aprendizaje de las máquinas, su interrelación con las personas o la salvaguarda de los derechos de los usuarios. Y el CSIC cuenta con un comité ético que establece unos criterios de trabajo en estas áreas.

¿Qué matices diferencian la ética robótica de la que se aplica al conjunto del desarrollo tecnológico?

En la ética aplicada a la tecnología hasta ahora se han manejado modelos orientados solo a la seguridad, para evitar que las máquinas autónomas pudieran generar una situación de peligro. Pero cuando pasamos a la robótica social, con una interacción estrecha entre robots y personas, se plantean necesidades como que las máquinas no generen engaño. Puede darse el caso de usuarios vulnerables, por ejemplo personas de edad avanzada o niños, que lleguen a creer que los robots con los que se relacionan se interesan y preocupan por ellos, y esto es muy peligroso.

¿El problema surge cuando los robots se relacionan de forma directa con los seres humanos, cuando ejecutan su actividad en un entorno donde hay afectividad?

Así es.  La Unión Europea ya generó hace tiempo una directiva derivada de los Derechos Humanos, unos principios básicos que determinan cómo debe llevarse a cabo la interacción entre robots y personas. Otros organismos internacionales, como el Instituto de Ingeniería Eléctrica y Electrónica (IEEE), están desarrollando estos principios, que van actualizando.  Es importante contar con una base común que pueda guiar a los gobiernos en el establecimiento de un marco legal. En la aplicación de la robótica a actividades como la enseñanza o la salud hay una norma básica que hay que respetar: Preservar la dignidad de la persona y no cosificarla.

En el caso de los robots asistenciales ¿La línea roja son las emociones?

Creo que es muy bueno que el robot sea capaz de detectar las emociones del usuario, por ejemplo para animarle o captar su atención, pero soy contraria a que la máquina simule tener emociones, porque es un engaño y puede generar indefensión y aislamiento social de la persona.

La utilización de algoritmos a gran escala forma parte del proceso de robotización ¿Su uso masivo en herramientas como buscadores y sistemas de información está contribuyendo al empobrecimiento intelectual de los usuarios?

El peligro es caer en la burbuja informativa, que los usuarios acaben hablando y relacionándose solo con aquellos con los que comparten los mismos planteamientos. Una de las fracturas digitales se da entre quienes son capaces de usar Internet para aprender y mejorar y los que se conforman con lo que el sistema les ofrece como primera opción.

¿Y qué alternativas hay a estos sistemas, que funcionan como un cuasi monopolio?

Hay muchas herramientas de búsqueda, y es fundamental que los usuarios sepan cómo localizar información fiable entre tanta fake news e informaciones interesadas. Y contrastar. También esto se debe aprender.

Un problema derivado de la globalización y el acceso masivo a los sistemas de información es el crecimiento de las fake news ¿Pueden los algoritmos ayudarnos a desenmascararlas? ¿Cómo?

Ya hay gente trabajando en usar la IA para desenmascarar las fake news, tratando de aislar fuentes fiables y eliminando sesgos. La inteligencia artificial puede causar el problema y a la vez aportar la solución. A mí me gusta subrayar que muchas de sus aplicaciones son positivas, con sistemas que aprenden a mejorar a través de la experiencia de los propios usuarios, como los traductores on line.

Usted se ha mostrado partidaria de orientar la tecnología hacia posiciones éticas que favorezcan a la ciudadanía ¿Eso significa que los gobiernos y el sector público deben llevar la voz cantante en la investigación robótica?

Creo que debe de haber una monitorización por parte de los poderes públicos, con normativas claras y unos controles, pero el que la investigación esté liderada por el sector público lo veo bastante inviable. Las entidades privadas juegan un papel muy importante.

¿Cuál es la tendencia en el desarrollo de la inteligencia artificial y la robótica a nivel mundial?

En octubre participé en París en el Global Forum on AI for Humanity. El Gobierno francés aspira a liderar el desarrollo de la inteligencia artificial a través de una tercera vía, entre la hipervigilancia de China y el modelo ultra liberal de los Estados Unidos, que me parece muy interesante. A nivel local, Francia está invirtiendo más de 1.000 millones para captar talento y multiplicar sus infraestructuras y equipos de investigación. Yo, desde luego, creo que España debería unirse a esta vía, que busca un desarrollo más ético de este tipo de tecnologías.

Ha publicado dos novelas relacionadas con la ciencia y la tecnología. Y una de ellas, La mutación sentimental, se ha traducido al inglés y se utiliza en una asignatura universitaria sobre ética y robótica en varios países ¿Cómo lo hizo?

La novela se publicó en catalán en 2008, y consiguió dos premios. Después se tradujo al castellano, y MIT Press se interesó por ella para usarla como material didáctico en una asignatura sobre ética en las ingenierías y en informática. Me pidieron que editara un material complementario con 24 preguntas que sirvieran para organizar el debate, y la tradujeron al inglés. Desde entonces se utiliza en universidades norteamericanas, pero también en Suecia, Gran Bretaña y, completando el círculo, en Cataluña. Es una gran satisfacción.

Háblenos de los proyectos que llevan a cabo ahora mismo en el IRI.

Trabajamos en varias líneas de aplicación de la IA. El proyecto más importante que tenemos es CLOTHILDE (Cloth manipulation learning from demonstrations) donde se combina topología y machine learning para aplicarlo a tres ámbitos: La asistencia en el proceso de vestido a las personas con movilidad reducida; la manipulación de textiles profesionales como ropa de cama y fundas, y la mejora de los procesos automáticos de logística inversa (devolución de productos de moda a la cadena de venta después de su compra).

En una línea relacionada desarrollamos BURG, orientado a crear sistemas de benchmarking para manipular objetos rígidos y deformables, en concreto ropa. Se trata de estandarizar procesos robóticos en la manipulación de prendas textiles.

En relación con personas que padecen algún tipo de demencia colaboramos con la Fundación ACE usando robots en procesos de diagnóstico y terapia con los enfermos. El proyecto se llama SOCRATES, y se centra en cinco áreas: Emoción, intención, adaptabilidad, diseño y aceptación.

Y en otra línea de investigación utilizamos la inteligencia artificial en la automatización del reciclaje de productos electrónicos a través del proyecto IMAGINE. Lo que hacemos es aplicarla en los procesos de identificación y manipulación de equipos que se reciclan, desde discos duros a teléfonos móviles. Se trata de operaciones complejas por la gran diversidad de modelos, lo que dificulta el trabajo de un robot, que tiene que aprender a reconocer los equipos, diseñar las secuencias de desensamblaje y ejecutarlas.

Juguemos a imaginar el futuro ¿Qué papel tendrán los robots en una ciudad como Barcelona en el año 2050?

En 30 años Barcelona tendrá robots por todas partes, desde asistentes robotizados en residencias, hospitales y centros cívicos hasta en los aeropuertos y estaciones de tren. Veremos robots jardineros que corten los parterres, que mantengan las cunetas de las carreteras… Y por supuesto, haciendo labores de vigilancia. Nos familiarizaremos con muchos tipos de robots en estas actividades, incluyendo las escuelas ¡Claro! Aunque no como sustitutos del profesor, sino en labores de apoyo. Por ejemplo, en el aprendizaje de música y de idiomas, y esto no es ciencia ficción: En Corea del Sur ya se usan robots en la enseñanza del inglés teleoperados por profesores nativos desde Inglaterra.