"Al diablo con los deepfakes de Taylor Swift , Google está lanzando una nueva herramienta impulsada por inteligencia artificial, ImageFX, para la creación de imágenes."
Respaldado por Imagen 2 , un modelo de imagen GenAI desarrollado por el equipo DeepMind de Google, ImageFX ofrece una interfaz de usuario basada en indicaciones para crear y editar imágenes. Eso no es diferente a herramientas como DALL-E 3 de OpenAI , Midjourney , Imagine with Meta AI de Meta y Microsoft Designer . Pero el giro único de ImageFX son los “chips expresivos”, básicamente una lista de sugerencias de palabras clave que permiten a los usuarios experimentar con “dimensiones adyacentes” de sus creaciones e ideas.
"Diseñado para la experimentación y la creatividad, ImageFX te permite crear imágenes con un mensaje de texto simple y luego modificarlas fácilmente con una nueva versión de los mensajes utilizando chips expresivos", escribe Google en una publicación de blog . Pero ¿qué pasa con el potencial de abuso, especialmente a la luz de los acontecimientos recientes ?
Google afirma que ha tomado medidas para garantizar que ImageFX no se pueda utilizar de formas no previstas, por ejemplo añadiendo "protecciones técnicas" para limitar los "resultados problemáticos" como contenido violento, ofensivo y sexualmente explícito. ImageFX también tiene un filtro de nivel de mensaje para "personas nombradas", presumiblemente figuras públicas, aunque Google no fue especialmente claro sobre ese punto en sus materiales de prensa.
- Puede leer también | Google: Su Derecho a Reparar - Un Análisis Detallado de Aciertos y Desaciertos.
"Invertimos en la seguridad de los datos de entrenamiento desde el principio", dijo Google. "De acuerdo con nuestros principios de IA, también llevamos a cabo extensas pruebas adversas y equipos rojos para identificar y mitigar contenido potencialmente dañino y problemático". Como medida de seguridad adicional, Google etiqueta las imágenes producidas utilizando ImageFX con SynthID , una marca de agua digital que supuestamente es resistente a ediciones y recortes de imágenes.
"Las marcas de agua SynthID son imperceptibles para el ojo humano pero detectables para su identificación", continúa Google en la publicación del blog. "Con información adicional en 'Acerca de esta imagen', sabrás si una imagen puede haber sido generada con las herramientas de inteligencia artificial de Google cuando la encuentres en la Búsqueda de Google o Chrome". Encontrarás ImageFX en AI Test Kitchen, la aplicación web de Google para proyectos experimentales de IA.
Imagen 2 ampliada
En noticias relacionadas hoy, Google dijo que llevará Imagen 2 a más productos y servicios a partir de esta semana, incluida su experiencia de búsqueda de IA de próxima generación y su familia de servicios de IA administrados Vertex AI.
Imagen 2, que ahora también impulsa las capacidades de conversión de texto a imagen en Google Ads y Duet AI en Workspace, el conjunto de productos GenAI de Google para la productividad, ha llegado a SGE (Experiencia generativa de búsqueda) de Google. SGE, que comenzó a presentar herramientas de generación de imágenes para los usuarios en la Búsqueda de imágenes de Google en octubre pasado , ahora utiliza Imagen 2 para generar imágenes. Los usuarios pueden ingresar un mensaje especificando qué tipo de imagen desean y SGE devolverá cuatro resultados directamente en la experiencia conversacional de SGE.
- Puede leer también | Google en la Mira: Un Estudio Revela un Deterioro en la Calidad de los Resultados de Búsqueda.
En Vertex AI, Imagen 2 está disponible a través de una API para los clientes de Google Cloud. En otros lugares, Imagen 2 ahora se puede invocar a través de Bard, el chatbot impulsado por inteligencia artificial de Google. "Con Imagen 2, Bard comprende indicaciones simples o complejas para que puedas generar una variedad de imágenes de alta calidad", explica Google. "Simplemente escribe una descripción, como 'crea una imagen de un perro montando una tabla de surf', y Bard generará imágenes personalizadas y de amplio alcance para ayudarte a hacer realidad tu idea".
Google aún no ha revelado los datos que utilizó para entrenar Imagen 2, lo cual, si bien es decepcionante, no es exactamente una sorpresa. Es una cuestión legal abierta si los proveedores de GenAI como Google pueden entrenar un modelo con datos disponibles públicamente (incluso con derechos de autor) y luego darle la vuelta y comercializar ese modelo. Las demandas relevantes se están abriendo camino en los tribunales, y los proveedores argumentan que están protegidos por la doctrina del uso legítimo. Pero pasará algún tiempo antes de que el polvo se asiente. Mientras tanto, Google va a lo seguro manteniendo silencio sobre el asunto.