Minimizar los sesgos
Los usuarios a menudo utilizan los productos de manera creativa e inesperada para nosotros. Por muchas pruebas que realicemos previamente. Los modelos están siendo refinados en ese sentido y muchos de ellos permiten acceder a ajustes de seguridad para garantizar respuestas más cuidadosas y responsables, y responder de forma concreta frente a determinadas situaciones. Se están publicando cada vez más principios y directrices para promover la transparencia y el uso ético de la IA en cada producto, reconociendo la importancia del control de sesgos entre otros. Además, está en nuestra mano probar y adaptar las indicaciones a los casos de uso, proporcionando diseños más inclusivos que satisfagan las necesidades de todos los usuarios. Controlar y comprobar los casos en los que el prompt de entrada para la generación de imágenes está fuera del tema que aborda el producto o trata contenido explícito y diseñar estados específicos para esos casos.
safetySettings: [
{
category: "HARM_CATEGORY_HARASSMENT",
threshold: "BLOCK_MEDIUM_AND_ABOVE"
},
{
category: "HARM_CATEGORY_HATE_SPEECH",
threshold: "BLOCK_MEDIUM_AND_ABOVE"
},
{
category: "HARM_CATEGORY_SEXUALLY_EXPLICIT",
threshold: "BLOCK_MEDIUM_AND_ABOVE"
},
{
category: "HARM_CATEGORY_DANGEROUS_CONTENT",
threshold: "BLOCK_MEDIUM_AND_ABOVE"
}
]
Ejemplo de ajustes de seguridad al realizar una solicitud a la API de Gemini. Abril 2025
Los derechos de autor están siendo uno de los temas más hablados y controvertidos en la actualidad. Parece fácil replicar el estilo o la apariencia de algunos artistas. Entendiendo el proceso de generación de imágenes, comprenderás que los datos con los que se entrenan los modelos parten de información ya existente, y las nuevas imágenes se crean a partir de este material. Es natural el debate generado. La situación sigue siendo incierta y es esencial evitar cruzar los límites legales confiando en el sentido común y la lógica. También diferenciar entre su uso en ideas, prototipos, o productos que están saliendo a producción. Los estilos de dibujo, las ilustraciones y las fotografías están cruzando áreas grises legales, y gradualmente se irá regulando su uso.
Sostenibilidad
Optimiza el uso de recursos desde las fases de diseño. ¿Los usuarios necesitan imágenes generadas en tiempo real o algunas de ellas pueden ser pregeneradas? ¿Podemos utilizar un formato más optimizado? ¿Realmente necesitamos tantas imágenes? Encuentra un equilibrio que funcione para la experiencia, como se haría con cualquier recurso al diseñar un producto nuevo.
Conclusión
Cuando la generación de imágenes estaba en sus etapas iniciales de desarrollo, comenzamos en nuestro equipo a desarrollar prototipos y a explorar sus aplicaciones especialmente en tiempo real: historias, recomendaciones... Al principio, la generación era bastante arbitraria, pero cada día, las nuevas mejoras aumentaban las posibilidades de creación y control del resultado. Para las demos improvisadas en el equipo, a menudo mostraba casos de uso generando imágenes de tiburones porque sabía que sería un tema sobre el que tenía más control sobre el prompt y daría resultados satisfactorios. Cada día veía un mejor resultado de los tiburones. Es por eso que decidí titular este artículo “Acercando un tiburón generado por IA a un tiburón real”. Sirve como recordatorio de la rapidez con la que evoluciona la tecnología y de lo adaptable que debe ser el diseño a nuevas variables, herramientas o modelos.