Un nuevo proyecto de ley, respaldado por varios senadores, busca imponer severas restricciones al uso de chatbots de inteligencia artificial (IA) al exigir verificaciones de edad para todos los usuarios y prohibir el acceso a estos herramientas para los menores de 18 años. La iniciativa, conocida como el GUARD Act, también contempla establecer severas penas penales para aquellas plataformas que promuevan o soliciten comportamientos dañinos. Aunque estos objetivos parecen razonables a primera vista, críticos advierten que el proyecto podría dar lugar a un régimen de vigilancia y censura que cambiaría drásticamente la forma en que todos, incluidos los jóvenes, interactúan con internet.
El GUARD Act describe su enfoque como una medida de seguridad infantil, pero en la práctica se traduce en un mandato de «controles de edad» que podría aplicarse a casi todos los chatbots orientados al público, desde asistentes en el servicio al cliente hasta herramientas de búsqueda. Esto obligaría a numerosas empresas de IA a recopilar datos sensibles de identidad, lo que podría afectar negativamente a la libertad de expresión en línea, interferir con la privacidad y limitar el acceso de los adolescentes a herramientas digitales que son esenciales para su día a día.
Además, el proyecto de ley no permite a los padres tener voz en esta decisión, ya que simplemente bloquearía a los menores de todas las plataformas de IA. Si el sistema de verificación de edad determina que un usuario es menor de 18 años, se le negaría completamente el acceso. Esto plantea preocupaciones sobre la falta de un mecanismo de consentimiento parental y la ausencia de un proceso de apelación en caso de errores en la estimación de edad.
El impacto del GUARD Act va más allá de los jóvenes, ya que se exige a las plataformas validar la edad de todos los usuarios. Para esto, deberán implementar sistemas de verificación de edad que recopilen información identificativa, lo que plantea serios riesgos de privacidad. Históricamente, los sistemas de verificación de edad han sido vulnerables a ataques cibernéticos y han puesto en peligro la identidad de millones de usuarios.
Las definiciones vaguen de «chatbot de IA» y «compañero de IA» en el proyecto de ley también suscitan alarmas. Estas definiciones son tan amplias que podrían abarcar casi todos los sistemas capaces de generar respuestas «humanas», lo que podría llevar a las empresas a bloquear a los menores de acceder a herramientas educativas, de servicio al cliente y servicios de búsqueda, limitando así su desarrollo y acceso a información esencial.
Los defensores de la legislación argumentan que su propósito es proteger a los menores, pero ello podría tener el efecto contrario, ya que reemplaza la orientación parental con mandatos gubernamentales, estableciendo una infraestructura de vigilancia masiva en lugar de mejorar el control sobre la privacidad. La combinación de definiciones imprecisas y multas severas, que alcanzan hasta los 100,000 dólares por cada infracción, invitará a las plataformas a restringir aún más el acceso a sus servicios.
En conclusión, aunque la seguridad en línea de los jóvenes es un problema complejo, el GUARD Act ofrece una solución drástica que podría perjudicar tanto la libertad de expresión como la privacidad en la red. Los legisladores deben rechazar esta propuesta y centrarse en políticas que promuevan la transparencia y la privacidad integral para todos los usuarios.
Fuente: EFF.org
