Microsoft verificará si un contenido se ha generado por IA y aportará metadatos sobre su origen
Microsoft ha anunciado que en los próximos meses implementará tanto en Bing Image Creator como en la herramienta de diseño Microsoft Designer una marca con la que verificará si un contenido se ha generado por Inteligencia Artificial (IA) y añadirá metadatos sobre su origen.
La compañía tecnológica ha avanzado esta y otras novedades para sus servicios en el marco de la Microsoft Build, la conferencia anual de desarrolladores que se centra en detallar sus últimas "innovaciones y herramientas" para ayudar a las personas "estar informadas".
El fabricante tecnológico forma parte de la Coalición para la Procedencia y Autenticidad de Contenido (C2PA, por sus siglas en inglés), un proyecto de la Joint Development Foundation, presentado en 2021 y creado para frenar la desinformación en línea y el fraude de contenido.
Junto con el resto de miembros fundadores -Adobe, Arm, BBC, Intel y Truepic-, Microsoft busca establecer una solución estandarizada de procedencia de las obras, con el objetivo de combatir el contenido engañoso en sus servicios.
Concretamente, las organizaciones miembro de esta coalición trabajan juntas para desarrollar especificaciones de procedencia de contenido. De ese modo, permiten a los editores, creadores y consumidores "rastrear el origen y evolución de una pieza de un medio, incluidas imágenes, videos, audio y documentos", según su comunicado de presentación.
En realidad, la C2PA se creó para generar confianza en el contenido en línea y garantizar a los creadores que sus obras están protegidas, algo que preocupa a buena parte de estos usuarios, especialmente a raíz del auge de la inteligencia artificial (IA) generativa.
Los últimos pasos de Microsoft en torno a esta tecnología tienen que ver con Bing Image Creator, un creador de imágenes basado en el modelo Dall-E, que a finales de marzo se incorporó al renovado navegador de la firma tecnológica, Edge, y a su buscador, Bing.
"Al escribir una descripción de una imagen, proporcionar contexto adicional como ubicación o actividad, y elegir un estilo de arte, Image Creator generará una imagen a partir de su propia imaginación", explicaron entonces desde Microsoft.
La empresa ha insistido en que mantiene su compromiso con el desarrollo de tecnologías de IA "responsable y segura y, al mismo tiempo, comparte sus propios aprendizajes y crea nuevas herramientas" para ayudar a los desarrolladores a implementar prácticas de IA responsables.
Una de estas herramientas busca informar a los usuarios de si una imagen o un video se ha generado o no con IA generativa y estará presente tanto en la herramienta de diseño Microsoft Designer como en Bing Image Creator "en los próximos meses".
Se trata de una solución que utiliza métodos criptográficos para marcar y firmar el contenido generado con IA según el estándar C2PA y con metadatos sobre su origen. El generador de imágenes IA Adobe Firefly ya cuenta con una función similar denominada Credenciales de contenido.
