IA Generativa

El AI Act es una propuesta de regulación de la CE para regular el desarrollo, la implementación y el uso de sistemas de IA en la UE.

Complementando las líneas de trabajo en curso en el Grupo de Trabajo Data Science & Machine Learning de DAMA España que presentamos hace unos meses en este mismo medio, aprovechando que se han incorporado nuevos socios al grupo de trabajo, hemos lanzado una nueva línea a propuesta de Santiago Calvo Fantova con el objetivo de explorar las capacidades y limitaciones de las herramientas de inteligencia artificial generativa, y aprender a utilizarlas de manera efectiva en diferentes ámbitos detectando oportunidades y riesgos; a la par que como venimos haciendo en todas las líneas desde que comenzamos con el grupo, explorar y discutir los aspectos éticos con esta nueva generación de IAs, de las que día tras día se hacen eco los principales medios de comunicación de todo el mundo.

«Realizaremos actividades como la monitorización y compartición de noticias relevantes, el estudio de casos de uso en distintos sectores, los principales riesgos que estas IAs representan, seguimiento de eventos, o colaboraciones con otros grupos de trabajo«

Pretendemos desarrollar este objetivo partiendo de los aspectos técnicos y formales avanzados, con actividades como la monitorización y compartición de noticias relevantes, el estudio de casos de uso en distintos sectores, los principales riesgos que estas IAs representan, seguimiento de eventos, o colaboraciones con otros grupos de trabajo, por citar algunas de las principales líneas de actuación identificadas para el lanzamiento de la línea de trabajo.

Mientras esto llega -que llegará- se ha de invertir en documentar y publicar linaje y procesos. Y, a través de la figura de “Data Steward”, implicar al negocio en la curación de datos para que, en caso necesario, puedan acceder y comprender los procesos a los que han sido sometidos sus datos.

Los recientes acontecimientos reactivos ante estos sistemas, tales como una propuesta de parada en la investigación durante 6 meses proveniente del sector privado, o reacciones de agencias públicas de protección de datos ante la falta de garantías de privacidad; no hacen más que añadir más interés si cabe a estos sistemas, y aumentar la importancia de conocerlos y entenderlos para poder desarrollar una posición personal crítica (positiva o negativa) respecto a ellos.

No podemos olvidarnos por su especial relevancia de la Propuesta de Reglamento Europeo de la IA (AI Act) cuya publicación definitiva se espera para finales de este 2023.

«Hemos lanzado una nueva línea a propuesta de Santiago Calvo Fantova, con el objetivo de explorar las capacidades y limitaciones de las herramientas de inteligencia artificial generativa»

El AI Act es una propuesta de regulación de la CE para regular el desarrollo, la implementación y el uso de sistemas de IA en la UE. El principal foco es la gestión de los riesgos para la salud, seguridad y derechos fundamentales de los usuarios. Para ello, se deberán implementar diversas medias en torno a la gestión de riesgos, gobierno de datos, transparencia, vigilancia humana, precisión, solidez y ciberseguridad, documentación técnica y generación de registros.

A día de hoy, en el caso concreto de los sistemas de IA generativa todavía se está debatiendo cómo serán considerados desde el punto de vista de este Reglamento y los requisitos que estos sistemas deberán de cumplir.

Los riesgos no son menores, las fake news nos han de poner en alerta sobre lo que es o no es información confiable, las deepfakes pondrán en jaque nuestro sistema judicial en dónde una grabación es hasta ahora considerada una prueba concluyente o las suplantaciones de identidad son ahora más sencillas que antaño; pero cuando ponemos las oportunidades que genera su buen uso en el otro lado de la balanza, ambos pesos se equiparan dificultando enormemente las decisiones en cuanto a dónde colocar limitaciones a estas tecnologías.

Esta disyuntiva alimenta la discusión y pensamiento en torno a estos sistemas.

Por ello desde el grupo de trabajo de Data Science & Machine Learning queremos invitar a los socios de DAMA con interés en estos sistemas de IA Generativa (Redes Neuronales Generativas, Redes Antagónicas Generativas, Transformadores Generativos Preentrenados), a ponerse en contacto con nosotros y participar de este grupo; aportando y aprendiendo a base de compartir y discutir los principales avances y acontecimientos.

También queremos aprovechar para recordar, que al igual que en el resto de las líneas de nuestro grupo de trabajo, estamos abiertos a colaborar con otros grupos de DAMA siempre que podamos encontrar sinergias y puntos de interés común.