La diputada por la provincia María Trinidad Sánchez, Priscila D´ Oleo, sometió al Congreso un importante proyecto de ley destinado a regular la creación y manipulación de contenido digital generado por inteligencia artificial que busca salvaguardar la integridad y los derechos de las personas afectadas por la manipulación engañosa de videos, audios e imágenes generados por esta tecnología de vanguardia.
D´Oleo expresó que sin una regulación adecuada, cualquier audio, imagen o video podría ser manipulado para engañar o difamar, dejándonos cuestionando constantemente qué es real y qué no por lo que se hace necesario salvaguardar los derechos de las personas y establecer responsabilidades claras para los proveedores de servicios en este ámbito y. sanciones para aquellos que utilicen maliciosamente la inteligencia artificial
Asimismo, dijo que el proyecto de ley responde a promover activamente la investigación y educación sobre este tema, garantizando que la sociedad esté preparada para detectar y contrarrestar contenido digital manipulado.
Dentro del objeto de la ley se encuentra la definición del contenido digital generado por inteligencia artificial que responde a lo creado o manipulado de manera realista utilizando técnicas de IA, con el propósito de engañar, difamar, dañar la reputación, privacidad o seguridad de terceros.
Deepfakes, una creación de inteligencia artificial
Uno de los desarrollos más intrigantes y controvertidos en la era digital es el surgimiento de los «deepfakes». Estas creaciones de inteligencia artificial han ganado notoriedad en los últimos años debido a su capacidad para generar contenido multimedia falso y realista.
Los deepfakes utilizan algoritmos de aprendizaje profundo para crear contenido multimedia engañoso. Pueden generar videos, audios e imágenes falsos que son extremadamente difíciles de distinguir de los originales. Estos algoritmos analizan y sintetizan datos de origen para superponerlos en un contenido de destino. El resultado es a menudo sorprendentemente realista, lo que ha llevado a su uso en aplicaciones tanto benignas como preocupantes.
Obligaciones para los proveedores de servicios y Sanciones
Según el proyecto de ley, dentro de las obligaciones para los proveedores de servicios que faciliten la creación o manipulación de contenido digital generado por inteligencia artificial se encuentra la obligación a implementar medidas de seguridad y de identificación para prevenir su mal uso. También deberán promover la educación y concienciación sobre los riesgos asociados a esta tecnología y colaborar con las autoridades en la investigación y persecución de delitos relacionados con su uso.
De igual forma, el incumplimiento de la ley, según detalla el proyecto, será sancionado con multas y/o penas privativas de libertad, de acuerdo a la gravedad de la infracción y el perjuicio causado. Estas sanciones serán aplicables tanto a los creadores y manipuladores de contenido digital generado por inteligencia artificial malicioso como a los proveedores de servicios que no cumplan con sus obligaciones.
