Nace CaBot, la herramienta pionera de la Universidad de Granada contra las 'fake news'

Granada/La irrupción de la Inteligencia Artificial (IA) es uno de los mayores desafíos a los que se enfrenta el sector de la comunicación ante la facilidad de falsificar vídeos, imágenes y, cada vez más, audios, que parezcan reales, las conocidas popularmente como fake news. Un problema al que la Universidad de Granada (UGR) ha decidido enfrentar con sus propias armas, con la creación de CaBot, un sistema pionero en el mundo que permite discernir si un audio de voz es real o está generado mediante IA y que ha sido presentado esta mañana, con la presencia, entre otros, del propio sistema, que ha tomado la palabra para presentarse a sí misma.

Tirando de humor, CaBot ha demostrado la facilidad de falsificar las voces con la tecnología presente, de ahí que haya modulado la suya propia para felicitar los 500 años de vida de la Universidad, que "tiene más historia que la Universidad de Hogwarts" y cuyos primeros alumnos hacían "los exámenes en pergaminos". Bromas aparte, el nuevo sistema presentado ha mostrado con ejemplos lo sencillo que es hacerse pasar por otra persona, para lo cual ha tomado prestadas las voces del Rey Felipe VI: el presidente del Gobierno, Pedro Sánchez, o la vicepresidenta Yolanda Díaz, enfrentando grabaciones verdaderas con otras elaboradas por IA.

Los padres de CaBot son los investigadores de la Universidad de Granada pertenecientes al departamento de Lenguajes y Sistemas Informáticos. En palabras de Zoraida Callejas, una de las directoras de este proyecto junto a David Griol, el nuevo sistema es el fruto de años de avances que permiten que las "voces artificiales sean cada vez más naturales", para poder transmitir más emociones y menos frialdad en distintos ámbitos, lo que al mismo tiempo supone un peligro cuando "hay alguien que lo utiliza con un fin malicioso", ha puntualizado la investigadora, destacando cómo estos avances tecnológicos se han usado con malas intenciones durante la última campaña electoral.

De acuerdo a Callejas, en los últimos años está habiendo un aumento de este tipo de voces "para generar desinformación", al tiempo que ha añadido cómo "se ha estudiado que los seres humanos sobrestiman su capacidad para detectar" si un audio es real o no, de ahí la importancia de este tipo de herramientas, ha asegurado.

En respuesta a los periodistas, Callejas ha destacado la novedad de CaBot, que tiene un modelo específico gracias a la colaboración con RTVE Verifica (el proyecto surge en el contexto de la Cátedra RTVE-UGR), que facilitó a los investigadores un listado de "personalidades objeto de desinformación", a partir de lo cual se diseñaron modelos específicos para sus voces, lo que aumenta "la tasa de acierto".

Mirando más al futuro, la investigadora ha asegurado que el sistema de CaBot también permite, al estar basadas en el mismo sistema de "redes neuronales profundas", la identificación del uso de herramientas de deep fakes (la falsificación del rostro de una persona), aunque a la hora de la suplantación de identidad en estafas telefónicas, conocido popularmente como el timo del hijo en apuros, ha asegurado que aún supone un problema, especialmente "porque juegan con el factor tiempo", lo que permite que la voz que se use "no tenga siquiera que ser una síntesis superbuena".

Finalmente, el rector de la Universidad, Pedro Mercado, ha destacado la "ambivalencia" de la Inteligencia Artificial, que permite grandes avances para la sociedad, pero al mismo tiempo la velocidad con la que crece esta tecnología supone una serie de riesgos.

El siguiente paso, según ha explicado durante la rueda de prensa Callejas, es hacer sistemas más interactivos que permitan ayudar a la labor de los periodistas, con los que los propios profesionales puedan tener conversaciones y que estos le aporten más información sobre el tema que están tratando, según ha esbozado Callejas. Al mismo tiempo, y del otro lado de la comunicación, la investigadora ha asegurado que se está tratando de hacer contenidos "más interactivos", que permitan, por ejemplo, escribir una pieza informativo y después, los lectores, puedan preguntar, como si mantuvieran una conversación, para ampliar la información.

También en relación al cuarto poder, Mercado ha incidido en cómo la nueva situación que plantea la IA abre "nuevos debates" en el mundo periodístico, "pues antes el problema era lo fidedigno del mensaje", pues cuando una persona decía algo podía achacar al sesgo del periodista una posible manipulación, ahora, ha incidido el rector, se pone en duda incluso que esa persona sea realmente una persona y no un IA.

De cualquier forma, el nacimiento de CaBot supone un paso más en el desarrollo de la Inteligencia Artificial en la provincia de Granada, que se suma al casi medio centenar de iniciativas que se gestionarán en el Centro Andaluz de IA, que ocupará el inmueble en el PTS en el que hasta ahora ha desarrollado su función la plantilla de la Fundación Fernando de los Ríos, junto al UGR IA y que abarcan prácticamente todos los ámbitos de relación entre Administración y ciudadanos. Desde justicia a sanidad, de educación a turismo, las aplicaciones de la inteligencia artificial abarcan todas las ramas.

La verificación de audios se sumará, por ejemplo, a la creación de un un chatbot para atender a los usuarios del portal web de la Junta. También habrá robots al otro lado del teléfono. La inteligencia artificial permitirá determinar la edad por la huella de voz y derivar la consulta, en función de esa información, a un operador o un bot.

En un punto algo más alejado, se destinará la IA a la labor de orientación en la búsqueda de empleo. Así, se prevé estimar con IA la evolución de las ofertas de empleo, la evolución de las tasas de demandantes y estimar la integración laboral mediante un indicador para los demandantes y otro para movilidad ocupacional. Se generarán diagnósticos sobre estas cuestiones tanto a corto como a medio y largo plazo.

También se espera su aplicación en la resolución de valoraciones de dependencia permita agilizar los procesos. Hasta un 45% menos de tiempo se usará en la elaboración del informe social, según la Junta. Se abordarán cuestiones como identificar factores que pueden afectar en el futuro a la salud en determinados grupos y se avanzará en la "atención personalizada".