Detección de contenidos generados por IA
Telefónica Innovación Digital está trabajando en diferentes soluciones para detectar contenidos generados o manipulados por IA para ayudar a la sociedad a navegar por el nuevo mundo de los medios artificiales.
Nos encontramos en la cúspide de una nueva era que cambiará profundamente nuestra experiencia mediática, difuminando los límites de la realidad y el engaño. Herramientas de IA generativa como ChatGPT, Midjourney, Dall-E, Runaway.ai o Jasper están ahora en manos de millones de personas, lo que permite la creación de contenido sintético que es casi indistinguible de material hecho por humanos, causando potencialmente daño a las personas y a la sociedad en general.
Dos personas haciendo una foto
Ayudar a los ciudadanos a navegar por el nuevo mundo de los medios generados artificialmente
Motivados por la urgencia de la situación, varios equipos de Telefónica Innovación Digital están investigando, explorando y desarrollando diferentes medios para detectar una amplia gama de contenidos generados por IA, ya que su impacto puede ser de gran alcance:
Las imágenes y vídeos generados por IA han llegado a un punto en el que distinguirlos de las fotografías reales es cada vez más complicado. Las falsificaciones profundas en vídeos pueden poner declaraciones falsas en boca de personas o hacerlas aparecer en situaciones en las que nunca han estado. Estas manipulaciones pueden tener consecuencias devastadoras, como la difusión de noticias falsas, teorías conspirativas, el descrédito de personas inocentes, la manipulación de elecciones y la incitación a la indignación, el malestar y la violencia. Nuestras sociedades democráticas se enfrentan a graves amenazas cuando ya no podemos confiar en nuestros propios ojos.
El texto generado por IA es otra área de preocupación, con grandes modelos lingüísticos como ChatGPT, Jasper o Bard capaces de producir contenido de alta calidad que puede ser explotado para hacer trampas en entornos educativos, lo que supone una amenaza significativa para nuestra educación y la integridad académica, tal y como la conocemos hoy en día.
Los generadores de voz de IA en tiempo real son cada vez más sofisticados y permiten suplantar la identidad de personas con solo unos segundos de voz. Detectar la voz generada por IA puede ser fundamental para prevenir el fraude en llamadas telefónicas y mensajes de voz.
Los filtros de belleza de la IA pueden contribuir a unos cánones de belleza poco realistas, lo que afecta especialmente a la salud mental y física de los jóvenes, que luchan por igualar las imágenes editadas que ven en las redes sociales y que ellos mismos comparten con el mundo.
El reto más importante al que nos enfrentamos es la rápida evolución de las herramientas de IA generativa. Cada semana surgen nuevos modelos, herramientas y servicios, lo que exige el desarrollo de métodos de detección que puedan seguir el ritmo de esta evolución constante.
Nuestra misión es muy clara, ayudar a los ciudadanos a navegar por el nuevo mundo de los medios generados artificialmente, promoviendo la claridad, salvaguardando la salud mental y fortaleciendo nuestras democracias.
