La Comisión Federal de Comercio de Estados Unidos (FTC, por sus siglas en inglés) ha emitido una orden a siete compañías tecnológicas –Alphabet, Meta, OpenAI, Character.AI, Instagram, Snap y xAI– para recabar información sobre cómo estas empresas miden, prueban y monitorean los posibles impactos negativos de sus chatbots impulsados por inteligencia artificial (IA) en niños y adolescentes.

Según la agencia, los chatbots de IA “pueden usar tecnología de inteligencia artificial generativa para simular la comunicación y las relaciones interpersonales humanas. Pueden imitar eficazmente las características, emociones e intenciones humanas, y generalmente están diseñados para comunicarse como un amigo o confidente, lo que puede incitar a algunos usuarios, especialmente niños y adolescentes, a confiar y establecer relaciones con ellos”.

La investigación busca entender “qué medidas, si las hay”, han tomado estas compañías para evaluar la seguridad de sus chatbots cuando actúan como acompañantes, limitar su uso y mitigar los posibles efectos negativos en menores, así como informar a usuarios y padres sobre los riesgos asociados.

Andrew N. Ferguson, presidente de la FTC, señaló que “proteger a los niños en línea es una prioridad absoluta para la FTC, al igual que fomentar la innovación en sectores críticos de nuestra economía. A medida que evolucionan las tecnologías de IA, es importante considerar los efectos que los chatbots pueden tener en los niños, a la vez que se garantiza que Estados Unidos mantenga su liderazgo mundial en esta nueva y emocionante industria. El estudio que presentamos hoy nos ayudará a comprender mejor cómo las empresas de IA están desarrollando sus productos y las medidas que están tomando para proteger a los niños”.

La agencia ha enfatizado que está especialmente interesada en comprender cómo estas compañías abordan la seguridad infantil, incluyendo medidas para mitigar impactos negativos, limitar o restringir el uso por parte de menores, y cumplir con la Ley de Protección de la Privacidad Infantil en Línea (COPPA, por sus siglas en inglés).

Como parte de la investigación, la FTC busca información sobre:

• Cómo las empresas monetizan la participación del usuario y procesan las entradas para generar respuestas.
• El desarrollo y aprobación de personajes de chatbots, así como la medición y supervisión de impactos negativos antes y después de su implementación.
• Estrategias de mitigación de riesgos, especialmente en relación con niños y adolescentes.
• El uso de divulgaciones, publicidad y otras comunicaciones para informar a usuarios y padres sobre capacidades, audiencia prevista, posibles impactos negativos y prácticas de recopilación de datos.
• La supervisión y cumplimiento de normas internas y términos de servicio, incluyendo restricciones de edad y pautas de comunidad.
• Cómo se emplea o comparte la información personal obtenida a través de las interacciones de los usuarios con los chatbots.

Con esta acción, la FTC busca equilibrar la protección de los menores con el fomento de la innovación en inteligencia artificial, un sector que continúa expandiéndose rápidamente y marcando tendencia en la tecnología de consumo.