La IA generativa tiene potencial para multiplicar la creatividad en YouTube y para transformar la experiencia de sus espectadores y creadores. Para la compañía es importante que ese potencial tenga un equilibrio con su responsabilidad de proteger a la comunidad de la plataforma. 

La IA introducirá nuevos riesgos que requerirán nuevos enfoques, YouTube comparte una introducción de su nuevo enfoque para lograr una innovación responsable de la IA, que lanzará en los próximos meses y año. 

Nuevas opciones para creadores, espectadores y artistas 

En los próximos meses se podrá utilizar su proceso de reclamación de privacidad para solicitar la eliminación de contenidos generados por IA y de otros contenidos sintéticos o manipulados que simulen a una persona identificable, incluidos su rostro y su voz. A la hora de evaluar estas solicitudes tendrán en cuenta diversos factores y no todos los contenidos se eliminarán de YouTube. Por ejemplo, se tendrá en cuenta si el contenido es una parodia o una sátira, si la persona que presenta la solicitud se puede identificar de forma inequívoca o si el contenido presenta a un político o alto funcionario, o a una persona famosa, en cuyo caso puede admitirse una mayor permisividad. 

También ofrecerán a los músicos la posibilidad de solicitar que se retiren contenidos musicales generados por IA que recreen la voz o la forma de cantar peculiar de un artista.

Estos controles estarán a disposición de los sellos discográficos y las distribuidoras que representan a los artistas que participan en los primeros experimentos musicales con IA de YouTube

Uso de tecnologías de IA para moderar mejor los contenidos 

Google cuenta con más de 20.000 revisores en todo el mundo. Sus herramientas de clasificación asistidas por IA ayudan a detectar a gran escala contenidos que, potencialmente, incumplen las normas y, después, sus revisores se encargan de confirmar si un contenido va más allá de lo admisible. La IA les ha servido para mejorar tanto la velocidad como la precisión de sus sistemas de moderación de contenidos. 

Así, la identificación de nuevas formas de mal uso es un área muy llamativa. Cuando aparece una nueva amenaza, los sistemas tienen poco contexto para comprenderla e identificarla a gran escala. La IA generativa les ayuda a ampliar rápidamente la información con la que se entrenan sus clasificadores de IA y como resultado, podrán identificar y capturar esos contenidos mucho antes. 

Herramientas y funciones de IA creadas desde la responsabilidad

Desde la compañía seguirán trabajando en el desarrollo de nuevas herramientas de IA para los creadores de YouTube, siempre con un planteamiento coherente y en línea con el objetivo de responsabilidad con la que han abordado sus grandes retos. 

Entre otras cosas, están haciendo un trabajo importante para desarrollar barreras que impidan que sus herramientas de IA se usen para generar la clase de contenidos que no quieren en YouTube. Por supuesto, son conscientes de que, inevitablemente, hay gente que intentará saltarse esas barreras.