jogja.jpnn.comYogyakarta – Fenómeno de Deepfake, a saber, videos, imágenes o sonidos falsos producidos con inteligencia artificial (IA), cada vez más preocupante en Indonesia.
Para lidiar con la amenaza de mal uso de esta tecnología, el Ministerio de Comunicación y Digital (Komdigi) junto con las organizaciones de la sociedad civil (CSO) colaboró para preparar detectores de defectos profundos.
Uno de los principales socios en esta iniciativa es la Sociedad Indonesia Anti -Slander (Mafindo), que desarrolló plataformas de verificación basadas en AI para verificar la autenticidad del contenido de formato cruzado, que van desde texto, imágenes, sonido.
Jefe de la Agencia de Desarrollo de Recursos Humanos (BPSDM) Komdigi Bonifasius Wahyu Pudjianto dijo que el gobierno cooperará con CSO para producir detectores de defectos profundos.
Leer también: Lenovo Yoga Pro 7i Aura Edition ofrece un rendimiento de IA para una productividad ilimitada
“Posteriormente podemos verificar el contenido no solo en forma de texto, sino también videos, imágenes y sonidos. Esto se espera que ayude a la comunidad a reconocer la verdad de un contenido”, dijo Bonifasius el viernes (6/27).
Aunque las herramientas de detección de Deepfake se continúan desarrollándose, Indonesia aún enfrenta grandes desafíos en los campos de las regulaciones y la ética.
En la actualidad, no hay reglas específicas que rigen el uso y supervisión del contenido basado en AI, incluido Deepfake.
Bonifasius dijo que el gobierno estaba preparando una hoja de ruta (hoja de ruta) del desarrollo de políticas nacionales de IA para convertirse en una guía oficial para el desarrollo de un ecosistema de IA inclusivo y responsable.
Leer también: La última tecnología de inteligencia artificial en las computadoras portátiles de Lenovo, no es necesario instalar y redes de Internet
Los problemas éticos y de privacidad también son una preocupación. El uso de AI, especialmente Deepfake, aumenta el riesgo de propagar hoaks, manipulación de la opinión pública y violaciones de la privacidad individual.
La conciencia pública de este problema sigue siendo baja, mientras que las regulaciones existentes no son lo suficientemente fuertes como para proporcionar la máxima protección.
Además del desarrollo de herramientas de detección, el gobierno y la OSC enfatizan la importancia de la educación ética digital, especialmente para los creadores de contenido.
Leer también: Inmediatamente abrió el Politécnico AI en Jogja, este año recibió un estudiante de primer año.
“Los creadores de contenido deben proporcionar un marcador o información si el contenido está hecho por AI u original. Esto es importante para que las personas puedan distinguir entre contenido real, lo cual es artificial”, dijo.
Los programas de alfabetización digital como la mafindo de la razón tular son ejemplos de movimientos colectivos para equipar a la comunidad, especialmente grupos vulnerables como los votantes mayores y jóvenes, con la capacidad de resolver la información y el pensamiento crítico.
Deepfake en el año político: la verdadera influencia en la democracia
La investigación del Centro UGM para la Sociedad Digital (CFDS) muestra que en las elecciones de 2024, el uso de IA generativa ha influido en la percepción de los votantes novatos.
La imagen digital y el contenido de fake suave son más influyentes que los historias políticas, cambiando las evaluaciones racionales hacia la estética y las emociones. Deepfake no solo difunde los Hoaks, sino que también reformula la realidad y las narrativas políticas.
Esto se ve reforzado por los datos de Mafindo que registra miles de Hoaks relacionados con las elecciones en el último año. La IA también se usa para hacer videos y sonidos falsos de figuras públicas que tienen el potencial de influir en la amplia elección de la comunidad.
Algunos de los principales desafíos del desarrollo y supervisión de la IA en Indonesia incluyen:
– Limitaciones de la infraestructura tecnológica y el acceso a los datos de calidad
– Falta de regulación adecuada y conciencia de la ética digital
– La amenaza de abuso de IA por desinformación, manipulación política y ataques cibernéticos
– La necesidad de colaboración cruzada para construir un ecosistema de IA inclusivo y responsable
Deepfake y AI brindan oportunidades, así como un gran riesgo para la sociedad digital indonesia. La colaboración del gobierno, la OSC y la comunidad, respaldada por regulaciones adaptativas y una fuerte alfabetización digital, es la clave para enfrentar los desafíos de la era de la inteligencia artificial en el futuro. (Antara/JPNN)
