Amazon ha dado un paso adelante en la seguridad de las aplicaciones de inteligencia artificial generativa con el anuncio de la disponibilidad general de sus filtros de contenido de imagen en Amazon Bedrock Guardrails. Esta herramienta, que ya moderaba contenido de texto, ahora extiende sus capacidades a las imágenes, brindando a los desarrolladores una mayor capacidad para gestionar y controlar los insumos y entregas generadas por la IA.
El Vicepresidente de Alianzas Estratégicas en KONE, Tero Hottinen, ha destacado el potencial de esta innovación para proteger aplicaciones de IA generativa, subrayando su utilidad en la verificación de relevancia y contexto. La empresa KONE prevé integrar en sus aplicaciones diagramas de diseño de productos y manuales, confiando en estas salvaguardias para optimizar el diagnóstico y análisis del contenido multimodal.
Amazon Bedrock Guardrails ofrece la posibilidad de establecer salvaguardias configurables, permitiendo a los usuarios bloquear tanto entradas como salidas perjudiciales. La herramienta está equipada con seis políticas distintas que van desde filtros de contenido hasta detección de alucinaciones del modelo, lo que podría eliminar hasta el 88% del contenido multimodal considerado dañino. Este enfoque permite la combinación de la moderación de texto e imágenes, con la posibilidad de ajustar los umbrales de contenido de acuerdo con las necesidades, desde niveles bajos hasta altos.
La expansión de esta función abarca diversas regiones de AWS, incluyendo el Este y Oeste de EE. UU., Europa y Asia-Pacífico. Sectores tan variados como la salud, manufactura, servicios financieros, medios de comunicación y educación pueden beneficiarse de esta herramienta, que mejora la seguridad de la marca sin la necesidad de desarrollar salvaguardias específicas o efectuar revisiones manuales que podrían resultar erróneas.
La utilización de estos filtros de contenido de imagen es accesible tras la creación de un guardrail a través de la consola de gestión de AWS, donde los usuarios configuran los filtros necesarios. Además, pueden emplear el API independiente ApplyGuardrail para validar contenido en cualquier flujo de aplicación.
En conjunto, Amazon Bedrock Guardrails representa un avance crucial en el uso más seguro y responsable de la inteligencia artificial, apoyando a las organizaciones en la creación de aplicaciones que respeten las políticas de IA responsable y mejoren la seguridad del contenido generado.
