Inteligencia Artificial Generativa
Descripción General
La tecnología de inteligencia artificial generativa (IAG) permite a los usuarios crear nuevas imágenes, videos, audios y textos a partir de solicitudes o indicaciones del usuario. Esta tecnología tiene muchos beneficios, pero al mismo tiempo, el NCMEC está profundamente preocupado por las múltiples formas en que se está utilizando para explotar sexualmente a los niños. En los últimos dos años, la CyberTipline del NCMEC ha recibido más de 7,000 informes de explotación sexual infantil relacionados con IAG, y se espera que estos números sigan creciendo a medida que continuemos rastreando estas tendencias.
Riesgos Principales
Proteger a los niños de los daños de la explotación sexual generada por la IAG requiere educación y orientación por parte de adultos de confianza. Comprender los riesgos es un primer paso fundamental para poder ayudar.
Los riesgos de la IAG para los niños incluyen:
- Imágenes de explotación creadas con IAG: La IAG se está utilizando para crear material de abuso sexual infantil (CSAM, por sus siglas en inglés) que representa a niños participando en conductas sexualmente explícitas e imágenes de niños desnudos, como contenido generado por aplicaciones de desnudez artificial como "nudify". La creación y distribución de estas imágenes falsas, incluidos medios sintéticos, falsificaciones digitales e imágenes de niños desnudos, puede tener graves consecuencias legales y causar graves daños a las víctimas, incluido acoso, intimidación y daño psicológico y emocional.
- Engaño en línea: Las personas pueden usar herramientas de IAG para crear cuentas falsas en las redes sociales para comunicarse con un niño con la intención de cometer un delito sexual.
- Sextorsión: Los agresores pueden utilizar la IAG para crear imágenes explícitas de un niño que se utilizan para chantajearlo y obtener contenido sexual adicional, obligarlo a participar en actividades sexuales o para obtener dinero. El NCMEC ha visto casos en los que el niño se niega a enviar una imagen de un desnudo al delincuente, y este luego crea una imagen explícita con IAG de ese niño para chantajearlo y obtener más imágenes explícitas.
- Acoso mediante IA y victimización entre pares: La tecnología de IAG se puede utilizar para crear o difundir contenido dañino, como imágenes o videos falsos. Este contenido a menudo es creado por los compañeros de clase de un niño y puede terminar circulando en las escuelas.
Qué está Haciendo el NCMEC al Respecto
El uso de IAG para crear imágenes de abuso sexual infantil e imágenes de niños desnudos o de explotación siempre debe denunciarse y tomarse con seriedad. La línea CyberTipline del NCMEC ofrece al público y a los proveedores de servicios electrónicos la posibilidad de denunciar múltiples formas de presunta explotación sexual infantil, incluido el material de abuso sexual infantil y los engaños en línea. Una vez que el NCMEC gestiona una denuncia de la CyberTipline, todas las denuncias se ponen a disposición de la agencia policial correspondiente. Para realizar una denuncia a la CyberTipline, visite report.cybertip.org.
Si una imagen sexualmente explícita de usted o de alguien que conoce, ya sea o no creada por IAG, circula en línea, el servicio Take It Down del NCMEC puede ayudar. Esta herramienta permite a las personas solicitar de forma anónima la eliminación de imágenes explícitas de las plataformas participantes.
El NCMEC también cuenta con recursos para ayudarlo a aprender a denunciar contenido de explotación al proveedor de servicios de Internet y a la plataforma donde se haya publicado el contenido para ayudar a mitigar la propagación de la imagen o el video. Visite ¿Hay Publicada Una Imagen Suya Explicita?
El programa de ciudadanía digital y seguridad del NCMEC, NetSmartz, es un programa educativo innovador que utiliza juegos, videos animados, planes de lecciones basados en el aula, actividades y mucho más para ayudar a que los niños tomen decisiones más seguras en línea.
Para las familias con un niño desaparecido o explotado sexualmente, el NCMEC ofrece servicios de apoyo, como intervención en situaciones de crisis y derivaciones a profesionales locales de asesoramiento adecuados. Nuestro programa Team HOPE conecta a las familias con personas que han tenido experiencias similares y pueden ofrecer habilidades para afrontar la situación y compasión.
