A medida que abundan los engaños generados por IA, Google planea contraatacar – Ars Technica

En Google I/O 2023 el miércoles, Google Anunciado tres nuevas funciones diseñadas para ayudar a las personas a detectar imágenes falsas generadas por IA en los resultados de búsqueda; informes Bloomberg: Las funciones identificarán los orígenes de las imágenes conocidas, agregarán metadatos a las imágenes de IA generadas por Google y etiquetarán otras imágenes generadas por IA en los resultados de búsqueda.

Gracias a los modelos de síntesis de imágenes de IA como Midjourney y Stable Diffusion, se ha vuelto trivial crear cantidades masivas de falsificaciones fotorrealistas, y esto puede afectar no solo a la desinformación y la propaganda política, sino también a nuestra el concepto de registro histórico ya que circula una gran cantidad de artefactos mediáticos falsos.

En un esfuerzo por contrarrestar algunas de estas tendencias, el gigante de las búsquedas presentará nuevas funciones en su producto de búsqueda de imágenes «en los próximos meses». de acuerdo a a Google:

El 62 por ciento de las personas cree que se encuentra con información errónea a diario o semanalmente, según 2022. estudio de poynter. Es por eso que continuamos creando herramientas y funciones fáciles de usar en la Búsqueda de Google para ayudarlo a detectar información errónea en línea, evaluar rápidamente el contenido y comprender mejor el contexto de lo que está viendo. Pero también sabemos que es igual de importante apreciar el contenido visual que encuentra.

La primera función, Acerca de esta imagen, permitirá a los usuarios hacer clic en tres puntos en una imagen en los resultados de Google Imágenes, buscar por imagen o captura de pantalla en Google Lens, o deslizar hacia arriba en la aplicación de Google para obtener más información sobre el historial de la imagen. incluyendo cuándo Google indexó por primera vez la imagen (o imágenes similares), dónde apareció la imagen por primera vez y otros lugares donde la imagen se vio en línea (es decir, sitios de noticias, sociales o de verificación de hechos).

Más adelante este año, Google dice que también permitirá a los usuarios acceder a esta herramienta haciendo clic con el botón derecho o manteniendo presionado el icono de Chrome en el escritorio y en el móvil.

Este contexto adicional sobre una imagen puede ayudar a determinar su confiabilidad o indicar si merece una mayor investigación. Por ejemplo, al usar la función Acerca de esta imagen, los usuarios pueden descubrir que una imagen que representa un alunizaje falso ha sido marcada por los medios como una imagen generada por IA. También se puede instalar contexto histórico¿Esta imagen existía en la publicación de búsqueda antes del incentivo para falsificarla?

La segunda característica aborda el uso creciente de herramientas de IA en la creación de imágenes. A medida que Google comienza a construir herramientas de síntesis de imágenes, planea etiquetar todas las imágenes generadas por sus herramientas de IA con «anotaciones» especiales o metadatos, almacenados en cada archivo que identifica claramente el origen de la IA.

Y tercero, Google dice que también se está asociando con otras plataformas y servicios para alentarlos a agregar etiquetas similares a sus imágenes generadas por IA. Midjourney y Shutterstock se han sumado a la iniciativa. cada uno incorporará metadatos en sus imágenes generadas por IA, que Google Image Search leerá y mostrará a los usuarios en los resultados de búsqueda.

Es posible que estos esfuerzos no sean perfectos, ya que los metadatos pueden eliminarse o posiblemente modificarse más tarde, pero representan un intento notable de alto nivel para combatir el problema de la falsificación profunda en línea.

A medida que la inteligencia artificial crea o aumenta más imágenes con el tiempo, es posible que la línea entre «real» y «falso» comience a desdibujarse, lo que influye en el cambio de las normas culturales. En ese momento, nuestra decisión sobre en qué información confiar como un reflejo fiel de la realidad (independientemente de cómo se haya creado) puede depender, como siempre, de nuestra fe en la fuente. Por lo tanto, incluso con una rápida evolución tecnológica, la credibilidad de la fuente sigue siendo primordial. Al mismo tiempo, las soluciones tecnológicas como Google pueden ayudarnos a evaluar esa confiabilidad.