Ciudadanos

«Somos lo que comemos así que un algoritmo bien alimentado será robusto»

Luka acaba de nacer. Para convertirse en un ser humano robusto tendrá que ser bien alimentado por su madre, ingeniera industrial por Tecnun, doctora en Inteligencia Artificial tras estudios en la UPV (tesis sobre redes neuronales, los algoritmos inspirados en el funcionamiento del cerebro humano), entrenada en el Boston College y Harvard, investigadora en Vicomtech, el centro tecnológico especializado en Artificial Intelligence, Visual Computing & Interaction, y premio Basque Research & Technology por su proyección investigadora. Nerea (del Antiguo, nadadora, afincada en Txomin) alimentará bien a Luka para que crezca fuerte y seguro. Alimentará también a los algoritmos con los que trabaja para que sean robustos, transparentes, confiables y itan que a veces, se equivocan.

– ¿¿'Learning Gaze-aware. Compositional GAN from Limited Annotations'!!

– Uno de los tantos 'papers', artículos, que he publicado en revistas científicas. Es relativamente antiguo pero le tengo especial cariño porque lo escribí en la fase final de mi doctorado. Y sí, se habrá quedado ya viejo, primero porque desde que lo escribes hasta que se publica puede pasar un año pues ya sabes que ha de ser examinado, considerado y aprobado por varios 'revisores'. Y, segundo, porque todo lo relativo a la(s) IA(s) avanza desde su despunte (pongamos que sucedió en 2012) con una velocidad que no hubiésemos sido capaces de prever. Su crecimiento es exponencial. Provocado tanto por el progreso en el hardware (tarjetas gráficas, por ejemplo) y en las posibilidades de computerización como por la normalización en el uso de datos y también por otras tantas mejoras en el desarrollo de distintos modelos de IAs.

– Tú, que llevas una línea de investigación centrada en sistemas de percepción para vehículos instrumentalizados, no le tienes miedo a la Inteligencia Artificial sino que te maravilla.

– Absolutamente. Porque nos obliga a estar en una continua evaluación y evolución de lo que hasta hace unas horas creíamos saber. Porque te exige estar al día de lo que publica toda clase de prensa, no solo las revistas científicas. Porque vuelve imprescindible no ya el trabajo en equipo sino la continua intercomunicación con tus compañeros de departamento y el seguimiento por cualquier medio (incluido X) de las investigaciones de los autores científicos que te interesan.

– Citas por ahí arriba la IA agéntica como uno de los campos que te sugestionan. Parece que fuera el último (seguro que cuando esto se publique será ya 'penúltimo') asombro que te ha producido la Inteligencia Artificial.

– Sí. La definición de la red dice que el 'marco agéntico de IA es un sistema que permite a los agentes de IA actuar con autonomía, adaptabilidad y capacidad de decisión'. Diferentes modelos se conectan entre sí para resolver una cuestión, lograr un objetivo, contextualizar la información. Modelos con respectivas especializaciones. Opera de forma autónoma, impulsa conversaciones.

– Me pregunto cómo viste tú, que en Vicomtech trabajas con sistemas conectados, cooperativos y autónomos, la película 'Her'.

– Quizás en 2013 pudiera parecer un film de ciencia ficción lejana y aún hoy puede ser cierto que la IA es más aburrida que lo que vimos allá. No tiene emociones. No evoluciona pero también es verdad que hoy existen IAs de conversación. Más inquietante fue ver la dependencia que establecía Theodore con Samantha, la voz de su sistema operativo.

– Porque los seres humanos seguimos siendo, hoy por hoy, los responsables de cómo sean las IAs que creamos, que usamos.

–Por supuesto. El algoritmo no tiene conciencia. No tiene valores (seguro que alguien piensa en 'Blade Runner'; en realidad, el cine y la literatura han ido siempre por delante de la ciencia y la tecnología). El algoritmo será más robusto o más frágil, tendrá un sesgo u otro dependiendo de la calidad de los datos con los que le has alimentado. Por eso es tan importante, por ejemplo, la multiculturalidad. Mi campo de actuación es el transporte. Si quiero generar algoritmos fiables no me basta con nutrirlos con datos muy locales porque sería como esa gente que solo es capaz de conducir por su barrio, por su ciudad. Y yo quiero sistemas que permitan que los coches sean realmente conectados y cooperativos con las infraestructuras de todo el mundo. Con el tráfico de Finlandia, China y la India. Si se pone trabas a la multiculturalidad en las universidades (yo en Harvard tuve compañeros de todo el planeta) los algoritmos se alimentarán con datos menos nutritivos y acaso no reconozcan problemas de tráfico que suceden a 5.000 metros de altitud. Nosotros somos lo que comemos, la IA, también. Si quiero un vehículo que pueda ser guiado por la mirada, tendré que alimentarlo con millones de miradas diferentes. El algoritmo sera blanco y hombre si no come imágenes de mujeres, de gente asiática, de gente asombrada, enfadada. No miras igual cuando sonríes o lloras pero el algoritmo no lo sabe...