Durante las acciones de monitoreo y patrullaje en la red de internet que realiza de manera permanente la Unidad de la Policía Cibernética, identificó una creciente incidencia de violencia digital en la que se hace uso de la Inteligencia Artificial como una herramienta con fines de perjudicar la reputación y la seguridad de las personas.
La inteligencia artificial emplea una tecnología con algoritmos de aprendizaje automático que se pueden utilizar para realizar diversas actividades como generar imágenes de alta calidad de una persona cuya apariencia se quiere imitar o suplantar, replicar con precisión los rasgos, voz de la persona objetivo, además se pueden aplicar técnicas de edición y procesamiento para mejorar la calidad y hacer que sea aún más convincente.
Peligros en las redes sociales
• Ciberacoso: El uso de bots de Inteligencia artificial para enviar mensajes ofensivos, amenazas o difamación de manera repetitiva a una víctima.
• Creación de noticias ofensivas: La generación de vídeos o imágenes falsas y manipuladas con IA para difamar o acosar a individuos.
• Ataques de ingeniería social avanzados: Utilizar la IA para recopilar información personal sobre una víctima y personalizar mensajes de acoso o extorsión.
• Suplantación de identidad mejorada: La IA se utiliza para crear perfiles falsos convincentes en redes sociales o plataformas de citas para acosar o engañar a otras personas.