La apuesta de Google por integrar IA en su buscador está dando resultados en términos de precisión, pero todavía arrastra la dificultad para asegurar que las respuestas estén correctamente respaldadas y sean verificables.

Un estudio publicado recientemente por The New York Times, concluye que los llamados AI Overviews, los resúmenes generados por IA que aparecen directamente en los resultados de búsqueda, son correctos en la mayoría de las ocasiones, con niveles de precisión que oscilan entre el 85% y el 91%. No obstante, ese margen de error, cuando se aplica a miles de millones de búsquedas diarias, resulta en una cantidad considerable de respuestas incorrectas.

Más allá de los fallos puntuales, el principal desafío es la manera en la que la IA elabora esas respuestas. Aunque la información sea correcta, no siempre está bien fundamentada en las fuentes citadas. En muchas ocasiones, los vínculos proporcionados no respaldan totalmente la respuesta, lo cual dificulta que el usuario pueda verificar si la información es fiable o se ha sacado de contexto.

A esto se le suma el uso creciente de las redes sociales como fuente de información. Plataformas como Facebook o Reddit aparecen con frecuencia en las referencias, incluso en respuestas que tienen errores. Como la calidad de estos contenidos es muy variables, aumenta el peligro de que haya inexactitudes.

El problema no se limita a las fuentes. La IA tiene la capacidad de malinterpretar datos que, en origen, son fiables, combinando información de distintas páginas de manera incorrecta o agregar contexto inexacto. Incluso las partes adicionales que extienden la respuesta más allá de la pregunta original pueden contener errores.

La naturaleza misma del sistema es otro elemento que dificulta las cosas, pues las respuestas no son fijas. Una misma búsqueda puede producir resultados distintos en diferentes momentos. Asimismo, en ciertas situaciones, se evalúan estas herramientas con otros sistemas de IA, lo que genera un nuevo grado de incertidumbre.

En paralelo, la inquietud por posibles manipulaciones aumenta. Algunos contenidos pueden diseñarse con el objetivo de posicionarse específicamente en estas respuestas generadas por IA, lo que incrementa la posibilidad de que información falsa o sesgada se muestre como creíble.