Francisco Herrera: "Podemos ser una referencia en Inteligencia Artificial Generativa"

"Ahora hay unas siete mil, ocho mil, personas que trabajan en el ámbito de las TIC en Granada. Cierra los ojos e imagínate un ecosistema de, pongamos, 20.000 personas trabajando en ese sector. Eso generaría una economía que tiene arrastre en todos los ámbitos”. Granada mantiene un idilio con el sector tecnológico, y en concreto con la inteligencia artificial. Y el artífice de esa relación es, en parte, Francisco Herrera Triguero (Jódar, 1966). Catedrático de la Universidad de Granada, director del Instituto Interuniversitario Andaluz en Data Science and Computational Intelligence (DaSCI) de la Universidad de Granada y la Universidad de Jaén, es un referente en el ámbito de la inteligencia artificial. Defiende que desde Granada “podemos ser referente en Inteligencia Artificial Generativa”, la que es capaz de crear imágenes y textos. Habla con entusiasmo de la tecnología y en su discurso no olvida la vertiente social y regulatoria. La IA tiene que ser transparente y explicable, aunque reconoce que “no va a ser siempre así, hemos de aceptarlo”. Su trabajo al frente de la creación de un ecosistema empresarial andaluz que se desarrolle con herramientas como la inteligencia artificial se califica como una “lluvia fina” que poco a poco cala en un territorio, el andaluz, que tiene la oportunidad de crecer de la mano de la tecnología. Granada será por ley sede del centro andaluz de I A. Llega a la entrevista entusiasmado tras dos importantes reconocimientos científicos en Japón. Lee todo lo que cae en sus manos sobre ajedrez e Inteligencia Artificial, dos pasiones que, precisamente, pone como ejemplo de cómo en el día a día la publicidad ha refinado su estrategia para ofrecer mensajes personalizados, específicos para el interés de un usuario –usted o yo– que hace uso de esa Inteligencia Artificial ya de forma cotidiana. Para Herrera, el uso de un cajero automático es un ejemplo de esa Inteligencia Artificial que ha permeado en la cotidianeidad.

Pregunta.–El sector productivo de Granada está cambiando...

Respuesta.–Van llegando empresas y se va creando un ecosistema muy importante.Están TSystem, NTT Data, Cívica, Trevenque... Como persona que está en el ámbito de la Universidad, nuestro granito de arena es formar egresados de calidad y hacer que en Granada crezca ese ecosistema. Podemos ayudar al ecosistema formando egresados de alta calidad que vayan a las empresas. El prestigio de la Universidad de Granada permite esa atracción de empresas. Te llegan a pedir hasta el plan de estudios para conocer la formación específica de los estudiantes.

P.–Granada será sede del Centro Andaluz de IA...

R.–Es una buena iniciativa. Me parece muy bien que se apueste por Granada. Tenemos que sumar talento, sumar reconocimiento y luego trabajar con la empresa, trabajar con ella en la tipología de formación necesaria, igualmente en transferencia de conocimiento y de investigación.

P.–¿Qué desafíos afronta Andalucía de aquí a 2027?

R.– Hay muchos ámbitos. Si te hablo a nivel académico, la estrategia nacional, la llamada ENIA, sacó una convocatoria de cátedras y Andalucía ha conseguido cuatro. La de IAÉtica yResponsable, que es la que yo dirijo, le han concedido 1,6 millones de los que 400.000 los pone Repsol. Hay otra en el ámbito de la salud en Málaga, otra de aplicación en el ámbito agroalimentario en Córdoba y una cátedra de aplicación en el ámbito de la sostenibilidad en Sevilla, donde también colaboran algún investigador de Granada. Son cuatro grandes proyectos junto con las futuras redes nacionales, en las que habrá unidades andaluzas. Es muy importante consolidar estos ámbitos de investigación en los que se ha reconocido a nivel nacional nuestra calidad. Necesitamos apostar por formar más talento. Tiene que haber una apuesta por más grupos. Siempre hablo de cuatro titulaciones, Informática, Telecomunicaciones, Matemáticas y Estadísticas. Cuatro titulaciones son fundamentales en el ámbito global de las de las TIC.

P.–La UGR tendrá un grado en IA y en Ciencia de Datos...

R.–El número de egresados que vamos a poner a disposición de la empresa va a ser esencial, porque el talento es esencial para que la empresa crezca. Basta mirar las notas de corte. Hay mucha gente que desgraciadamente no va a poder hacer estos estudios, pero que serían excelentes ingenieros el día de mañana. La empresa lo que busca es que haya suficiente talento, que no sea una guerra entre empresas. La Formación Profesional también es muy importante.

P.–Hay grandes retos...

R.–Hace poco publicamos un artículo sobre sistemas de inteligencia artificial responsable. La Comisión Europea en su documento hablaba de Sistemas de IA para alto riesgo, para problemas de alto riesgo. Nosotros introdujimos el concepto de sistemas de inteligencia artificial responsable. Esto conlleva requisitos técnicos que se pueden reducir muy rápidamente en aspectos como el respeto a la privacidad de los datos. La anonimización y la propiedad de los datos es fundamental; que cuando interaccionas con un sistema IA sepas que es IA; hay que conseguir la máxima explicabilidad; y un aspecto fundamental es la seguridad.En inglés se habla de safe, comportamiento seguro, y luego está el concepto de seguridad clásico, security, que es que se asegura ante ataques externos. También tiene que tener un complemento robusto, que se pueda medir y garantizar. El sistema perfecto en la toma de decisiones no existirá, pero los sistemas tendrán un nivel de acierto muy alto y en algunos campos se podrá conseguir el cien por cien. También se habla del principio de responsabilidad que va asociado a la legalidad, pero ahí se va a aplicar la ley. Otro aspecto es el medioambiental, que sea sostenible. Fíjese que se está hablando de que probablemente para el 2030, los sistemas, los grandes centros de procesamiento de datos pueden llegar a consumir el 20% de la energía a nivel mundial. Y además tiene unos consumos de agua importantes, aunque afortunadamente cada vez los modelos evaporan menos.

P.–La IA ha dado un salto con la Inteligencia Artificial Generativa...

R.– Esto acaba de explosionar y creo que Andalucía tiene que apostar por ser una región donde sea referente en el desarrollo de esa tecnología junto con la empresa. Esa IA Generativa puede llegar a todos los sectores socioeconómicos y que pueda llegar de la mano de empresas andaluzas que trabajen con nosotros. Un tercer gran reto a nivel de IA es la IAde propósito general, con capacidad de adaptarse a un problema. Estamos en la década de la IA Generativa. En los próximos tres años hay que consolidar muy bien la idea de una IA fiable y responsable y la IA Generativa como gran apuesta en el ámbito empresarial. Obviamente, sin olvidar todo lo que es la guía primitiva, la clásica, de solución de problemas que es fundamental y que tiene aplicación todos los campos. Obviamente hace falta inversión para consolidar esto, inversión en talento, en investigación, becas para formar más doctores, becas también con las empresas, programas de becas de transferencia de doctores con empresas. Es fundamental para crecer y que el talento que tú tienes lo puedas transferir hacia las empresas.

P.–Se ha hablado en varias ocasiones de Granada como sede de un centro de IA Generativa...

R.–Enrique [Herrera, vicerrector de Investigación y Transferencia de la Universidad de Granada] lo ha dicho en varias ocasiones públicamente. Nos gustaría que fuera un Centro Nacional. Podemos ser una referencia con un centro que apueste por el desarrollo de tecnologías generativas de la mano de todo el ecosistema de empresas, de pymes. Pero para eso también hay que generar, hay que formar talento. Y eso lleva tiempo y cuesta dinero. Siempre he dicho que es una gran inversión. Cualquier egresado, cuando llegue a la empresa y empiece a trabajar, devuelve a la sociedad lo que ha lo que ha costado de dos formas, con su salario y luego esas propias empresas generan riqueza. Es un crecimiento que arrastra toda la sociedad.

P.–El desarrollo tecnológico requiere de marcos, regulación. La Junta ha anunciado una ley regional y que se reunirá con expertos para abordar estas cuestiones...

R.–Entiendo que a lo largo del próximo año se tendrán conversaciones con todos los agentes andaluces y también con la Universidad. Somos los que estamos en continuo estudio de los nuevos desarrollos y los que hacemos de puente del conocimiento a las empresas. La empresa no tiene ese tiempo de estar viendo la tecnología, estudiándola, para aplicarla. La universidad tiene mucho que decir, la andaluza en general y la de Granada en particular.

P.–La Universidad también puede ayudar a rebajar el nivel de incertidumbre, dar una visión holística de esta tecnología... menos agorera.

R.–Cuando te están hablando de inteligencia artificial que puede alcanzar al nivel de un humano o superarlo, eso genera, bueno, ¿qué es de los humanos? ¿Y su papel? Te están hablando de los riesgos de una toma de decisiones que puedan afectar a lo humano. Se está hablando de la posible pérdida de puestos de trabajo por la automatización de tareas, aunque va a llevar asociada la creación de nuevos ámbitos de puestos de trabajo. Pero hay un debate si la balanza va a ser un crecimiento o decrecimiento. Se lleva hablando de esto cuatro o cinco años y te das cuenta de que la penetración está siendo lenta, va despacio. Si se fija en todos los ámbitos, muchas personas empiezan a ver que va a ser útil. Nunca una Inteligencia Artificial va a sustituir a un médico. Un médico va a tener capacidad de tomar decisiones más precisas con ayuda de la inteligencia artificial y más rápidamente porque procesa muchos datos y va a haber diagnósticos por significado. Pero hay que rediseñar muchas profesiones. Tenemos que aprender al cotrabajo con sistema inteligentes y tenemos que aprender a ser más productivos. No estamos en la década de sustitución masiva. Es cierto que hay una automatización de tareas, pero si a nosotros nos ayudan a automatizar las tareas repetitivas nos permite dar un mejor servicio. El ciudadano tiene que tener la confianza de que estamos desplegando sistemas de IA responsable, éticos y seguros. Es fundamental porque estamos hablando de una tecnología que puede alcanzar sugerir decisiones, aunque estamos hablando que en este escenario de riesgo sea el humano el que tiene que tener la última palabra. Otro aspecto fundamental es el comportamiento justo que no haya discriminación por ninguna razón. Privacidad, equidad y que sea la acción humana la que toma decisiones son tres elementos esenciales para garantizar una IA justa. Una de nuestras líneas esenciales aquí en el Instituto DaSCI es el desarrollo de IAfiable y responsable. Mariano Sigman habla de repensar el papel de lo humano en esta sociedad.

P.–¿Nos puede hacer menos autónomos?

R.–Hablemos desde la invención de la escritura. La evolución del humano ha sido tremenda. La evolución del mundo ha sido tremenda gracias a ese- esfuerzo, esa creatividad humana. Tenemos que aprender a trabajar con entes artificiales. Deep Blue fue el primer sistema inteligente que le ganó en el año 96 la primera partida a Gasparov. Luego llegamos Alpha Cero, que fue desarrollado por Google. Los sistemas inteligentes de IA en el año 97 podemos decir que eran conservadores jugando, eran posicionalmente muy fuertes. Ahora los modelos de IA, basada en el aprendizaje en Machine Learning, se convierten en más creativos y más son capaces. Todavía en los años 90 se distinguía un sistema inteligente porque nunca sacrificaba una pieza porque quince jugadas más adelante podía llegar a posición de jaque mate. La IA actual se ha convertido en mucho más creativa en el ajedrez, llega a sacrificar piezas. Leontxo García escribió en El País que la misma tecnología que utilizó Deep Mind, la empresa que creó Alpha cero, que es de Google, para desarrollar el ajedrez, se utilizó para AlphaFold que predice la estructura de las proteínas.

P.–Y en el ámbito educativo...

R.–No se puede ir en contra, decir vamos a prohibir el uso de ChatGPT en la educación. En mi época también estaba prohibido copiar y la gente sacaba una chuleta y se copiaba. Lo van a utilizar. Otra cosa es que tú tendrás que cambiar los mecanismos de evaluación de las destrezas de esos de esos estudiantes y tendrás que hacer exámenes orales. Es una tecnología que ayuda. Vamos a hacer que nuestros estudiantes sepan utilizarla porque luego en el trabajo la tienen ahí. Se trata de aprender los conocimientos, a razonar en el entorno profesional. Hemos de cambiar la forma de la enseñanza universitaria y a todos los niveles, indudablemente. Antiguamente, antes de los ordenadores, los trabajos se escribían a mano. Hay que ir con los cambios tecnológicos, pero ahora van muy muy rápido y al ir tan rápido nos genera en parte preocupación. En el salón de casa entró la radio en los años 20 del siglo pasado, en el salón de casa entró en los años 50 la televisión –bueno, en mi pueblo llegó en los años 70– y luego la inteligencia artificial ha llegado al salón de casa en los años 20, un siglo después de la radio.