Expertos de Amarillo advierten sobre las herramientas de IA “peligrosas” accesibles para los niños

AMARILLO, Texas (KEYU) - Los expertos en seguridad infantil están dando la voz de alarma sobre las aplicaciones de inteligencia artificial a las que los niños pueden acceder fácilmente.

Esto se produce tras el aumento de denuncias de explotación sexual infantil relacionada con la inteligencia artificial durante el último año.

En 2024, el Centro Nacional para Niños Desaparecidos y Explotados recibió 67,000 denuncias de explotación sexual infantil relacionadas con la inteligencia artificial. Esto significa un aumento de más del 1000% con respecto al año anterior.

Courtney Ma y Sarahbeth Cook, del Centro de Defensa Infantil The Bridge, afirman que muchos padres siguen sin saber qué aplicaciones de inteligencia artificial utilizan sus hijos.

Aplicaciones peligrosas de IA dirigidas a los niños

“También hay aplicaciones con las que básicamente puedes crear tu propia pareja. Puede ser hombre o mujer, puede hablar como tú quieras,” explica Ma. “Puede comunicarse como tú quieras. Puede tener las mismas ideas que tú. Así que, básicamente, puedes crear tu propia pareja, tu pareja ideal.”

Entre estas aplicaciones preocupantes se incluyen plataformas como Candy.AI , C.AI y ChatGPT, entre otras.

Aún más preocupantes son las aplicaciones y herramientas de creación de videos de IA para desvestir personas.

“Hay aplicaciones de Inteligencia Artificial que desnudan a las personas: puedes subir una foto y ellas las desnudan,” dijo Ma. “Hay aplicaciones de Inteligencia Artificial que crean videos de todo lo que quieras, con ropa o sin ella.”

La amenaza de la tecnología deepfake

El peligro va más allá de la creación de contenido inapropiado. La mayoría de las personas no pueden distinguir entre imágenes reales y aquellas manipuladas por inteligencia artificial.

“No es bueno que los niños tengan acceso a una aplicación que puede crear videos de alguien realizando actos sexuales. Y luego envían ese video y nadie sabe si es esa persona o no,” dijo Ma. “Tiene su rostro, pero puede que sea su cuerpo o puede que no. Por lo tanto, sea quien sea la persona que aparece en ese video, sigue siendo una víctima.”

Proteger a los niños a través de la comunicación

Ma y Cook enfatizan que los niños deben comprender la naturaleza de las interacciones con la inteligencia artificial, ya que no siempre entienden que están hablando con un robot.

“Deben manejar las expectativas de las relaciones con inteligencia artificial,” afirma Cook. “La inteligencia artificial no es una persona para hablar. Solo es un robot al otro lado.”

Recomiendan que los padres participen activamente con sus hijos en el uso de la inteligencia artificial y les ayuden a establecer límites saludables con la tecnología.

“Tenemos que decirles a nuestros hijos: ‘Esto no es real’. Tenemos que ayudarles a mantener límites saludables con la tecnología, incluida la inteligencia artificial. Cuándo hay que dejar el teléfono. Cuándo hay que ir a hablar con alguien,” afirma Ma.

Cook destaca la importancia de la conexión humana a la hora de abordar las necesidades de los niños.

“Los niños solo buscan una conexión y alguien con quien hablar, por lo que, como padres, debemos establecer una conexión humana en lugar de depender de la tecnología para crear esa conexión y una relación significativa con nuestros hijos,” afirma Cook.

Las personas afectadas por imágenes sexualmente explícitas que circulan en Internet, ya sean reales o generadas por IA, pueden obtener ayuda a través de servicios como Take It Down.

Take It Down es un servicio gratuito que ayuda a eliminar o detener el intercambio en línea de imágenes o videos desnudos, parcialmente desnudos o sexualmente explícitos tomados de usted cuando era menor de 18 años.

También puede obtener ayuda en stopncii.org si alguien amenaza con compartir sus imágenes íntimas.

El sitio web es operado por Revenge Porn Helpline, que ha apoyado a miles de víctimas desde 2015.

Derechos de Autor KEYU 2025. Todos los Derechos Reservados