Expertos destacan en Alicante las claves del reglamento europeo para evitar un mal uso de la IA Generativa

 El impacto de la Inteligencia Artificial Generativa va más allá de la propia tecnología, ya que trasciende a nivel social, laboral, político, económico, y por supuesto legal, con una normativa europea que busca luchar contra el mal uso de la IA que pretende proteger la seguridad y los derechos fundamentales de las personas, y que plantea múltiples retos.

En esta línea, ITI, centro tecnológico especializado en TIC, ha celebrado en Alicante una nueva edición del SOFTING TIC&TALK con el fin de poner en contacto a los profesionales para aprovechar todas las sinergias y trabajar de forma conjunta los retos que suponen la implementación de la tecnología. La cita ha contado con varias entidades colaboradoras y con el patrocinio de ARSYS, AHORA, Amaltea, Acernet, Dixit, Excentia, Infortic, PUNT y Verne Academy.

La directora gerente de ITI, Laura Olcina, ha sido la encargada de dar la bienvenida a esta nueva edición de SOFTING TIC&TALK, destacando que es un encuentro entre los profesionales que el centro lleva 9 años organizando. También ha comentado que en esta ocasión se ha celebrado en la finca Torre Juana, donde ITI ha trasladado su sede, con su responsable de desarrollo de Negocio en Alicante, Isabel Meseguer, como responsable. En esta línea, ha invitado a los asistentes a “responder de forma conjunta a los grandes desafíos actuales con el conocimiento de todos los expertos”.

Para introducir el encuentro, Francisco Ricau, director de Información Estratégica e Innovación Empresarial en ITI, ha explicado cómo las personas y las empresas pueden adaptarse a las nuevas tecnologías. En concreto, ha dicho que “todo apunta a que la Inteligencia Artificial va a ser toda conversacional, donde el inglés es el nuevo lenguaje de programación”. En esta línea, ha concretado que en 2028, el 90% de las empresas de software va a utilizar asistentes de este tipo frente al 14% que la utiliza ahora. También ha explicado la importancia de abordar el tema, pensando que por ejemplo en 2030 la mayoría de la generación Alfa construirá más relaciones personales con chatbot e inteligencias artificiales que con los humanos.

Mientras, la reciente aprobación por parte del Parlamento Europeo de la conocida como AI Act, ley que busca regular los sistemas de IA en función del riesgo potencial para la sociedad, ha sido uno de los temas clave. Sobre ello, Javier Fernández-Lasquetty, abogado en Elzaburu SLP, ha explicado que el “origen del reglamento es anterior a la aparición de la inteligencia artificial generativa” y que “busca luchar contra su mal uso, protegiendo la seguridad y los derechos fundamentales de las personas”. En concreto, ha comentado que el reglamento afecta tanto si “fabricas, vendes, integras la IA en tu servicio o eres responsable de su despliegue, pero también a los organismos públicos, que van a tener que adaptarse”. En este punto, ha detallado que para desarrollar sistemas es preciso utilizar elementos fundamentales como la transparencia, accesibilidad, respecto a los derechos de las personas y la trazabilidad.  También ha recomendado a los asistentes estar atentos a las acciones y ayudas para las empresas que va a ofrecer en breve la Oficina Europea de la Inteligencia artificial, así como a la inminente directiva por daños causados por productos defectuosos, que puede afectar al sector TIC.

Por su parte, el director de Sistemas e IT en RER y Prensa Ibérica, Alberto Manchado, ha detallado cómo fortalecer la ciberseguridad de las empresas, sobre todo en un modelo de movilidad con múltiples servicios en el que “lo importante es controlar el viaje del dato, cómo lo compartes y quién está accediendo”. También ha explicado que ha emergido la figura del CDO para unir marketing y tecnología, un perfil que está ya “tomando las decisiones principales en los comités de dirección, y eso hará que el paradigma de la IA cambie por completo”.

Después, Mario de Felipe, Chief Innovation & Transformation Officer en Grupo ASV, ha explicado las iniciativas de la compañía en innovación tecnológica. En esta línea, ha explicado que “no todo es inteligencia artificial generativa” y que han aplicado otros sistemas para reducir por ejemplo las bajas del seguro de decesos en un punto y medio en un año o modelos de optimización de turnos de los empleados, entre otros.

Mientras, Alfonso Contreras, CTO e IT Project Manager en Lynx View, ha explicado cómo la IA Generativa influye en la industria de desarrollo de software. La empresa tecnológica alicantina ha explicado cómo se han transformado con el uso de la IA, por ejemplo utilizándola en la parte de la gestión de proyectos. Ha especificado que lo importante es lograr entrenar a un propio ChatGpt, en este caso con la documentación interna de cómo gestionar los proyectos, advirtiendo que no se deben utilizar documentos confidenciales. También ha mencionado que “el futuro de la nueva programación ya no es la robótica, sino que será aprender y dominar la expresión escrita”.

Y finalmente, Javier Barrachina, director de I+D en Facephi, ha definido cuáles son los límites de la Inteligencia Artificial generativa. La compañía pionera en incorporar biometría en plataformas web y móvil, ha explicado que la identidad digital europea aprobada recientemente nos va a afectar a todos, lo que permitirá tener una identidad más confidencial. Ha explicado la tecnología existente para detectar ataques por fraude de identidad, como por ejemplo son los deepfakes que pueden reemplazar caras para suplantar las personas. Y finalmente, ha explicado un proyecto desarrollado junto a ITI para detectar de forma automática los fraudes mediante ataques de presentación en documentos de identidad.

Finalmente, SOFTING TIC&TALK ha contado con la colaboración de AlicanTEC, CEEI Elche, CEEI Valencia, Parque Científico de la UMH, Federación de Empresarios del Metal de la Provincias de Alicante (FEMPA), Federación del Habitat de España (FHdE), Cámara Alicante, Cámara Valencia, EGM Parque Tecnológico de Paterna, Escuela Técnica Superior de Ingeniería Informática, FEMEVAL, Quimacova, Parque Científico Alicante, Torre Juana y REDIT.