La creciente preocupación acerca del contenido dañino generado por inteligencia artificial (IA) ha llevado a un llamado urgente desde las Naciones Unidas para establecer medidas que protejan a los niños de situaciones de abuso, explotación y trauma mental. En la Conferencia Mundial de Desarrollo de las Telecomunicaciones 2025, Cosmas Zavazava, director de la Oficina de Desarrollo de las Telecomunicaciones de la Unión Internacional de Telecomunicaciones (UIT), expuso la alarmante variedad de ataques que enfrentan los menores en línea, incluyendo acoso sexual, deepfakes y ciberacoso. Durante la pandemia de COVID-19, muchos niños, especialmente niñas y mujeres jóvenes, sufrieron abusos en línea que culminaron en daño físico, lo que ha intensificado la urgencia de abordar este problema.
Las organizaciones defensoras de los derechos infantiles advierten que los depredadores están utilizando IA para analizar el comportamiento en línea de los niños, empleando esta información para diseñar estrategias de acoso. La tecnología también ha facilitado casos de extorsión sexual mediante la generación de imágenes falsas de menores. Un informe del Instituto Global de Seguridad Infantil Childlight reveló que el abuso infantil ligado a la tecnología en Estados Unidos se disparó de 4,700 casos en 2023 a más de 67,000 en 2024.
Ante esta alarmante situación, Australia se ha convertido en pionera al prohibir las cuentas de redes sociales a niños menores de 16 años, argumentando que los riesgos asociados superan los posibles beneficios. Este movimiento ha inspirado a otros países, como Malasia, el Reino Unido, Francia y Canadá, a considerar legislaciones similares enfocadas en la protección de la infancia en el entorno digital.
El 19 de enero de 2026, varias agencias de la ONU firmaron una Declaración Conjunta que resalta la necesidad de abordar los riesgos asociados con la IA y la falta de formación adecuada entre padres, educadores y legisladores. Esta declaración subraya que muchas herramientas de IA no están diseñadas con el bienestar infantil en mente. Zavazava expresó la importancia de que las empresas tecnológicas asuman una responsabilidad activa en la creación de entornos digitales más seguros para los niños.
Además, se estima que un enfoque más decidido en la educación sobre IA y la implementación de regulaciones más estrictas es esencial para asegurar que los derechos de los menores sean respetados en la era digital. Las directrices propuestas instan a reforzar marcos de gobernanza de la IA y garantizar que los sistemas sean transparentes y responsables, enfatizando el interés superior de los niños.
Las recomendaciones incluyen la necesidad de que los gobiernos y empresas trabajen en conjunto para prevenir abusos, así como la importancia de involucrar las voces de los niños en el diseño de políticas de IA. En conclusión, la naturaleza cambiante del entorno digital requiere un esfuerzo conjunto para garantizar la seguridad y protección de los menores frente a los desafíos que plantea la tecnología moderna.
Fuente: ONU últimas noticias
