24, May 2024
Snapchat utilizará marca de agua en imágenes generadas por Inteligencia Artificial

Snapchat ha anunciado la incorporación de una marca de agua en todas las imágenes generadas por su tecnología de Inteligencia Artificial (IA). Esta medida se aplicará al exportar o guardar estas creaciones en el carrete de la cámara, asegurando que los usuarios estén al tanto de las tecnologías empleadas en la plataforma.

La decisión de la empresa busca proporcionar mayor transparencia en el uso de IA. Snapchat ya utiliza diversos símbolos y etiquetas para ofrecer contexto e información durante las interacciones, incluso con su asistente de chat impulsado por IA, My AI, desarrollado por ChatGPT.

Además, Snapchat examina cuidadosamente los anuncios políticos mediante un proceso de revisión humana para detectar cualquier posible uso engañoso de la IA generativa. Con la nueva medida, los receptores de estas imágenes generadas por IA podrán identificar fácilmente su origen, ya que contendrán el logotipo de Snapchat con una estrella en la esquina superior derecha, indicando el uso de herramientas impulsadas por IA.

En términos de cumplimiento de la privacidad, Snapchat asegura que todas las funciones basadas en IA pasan por una estricta revisión para garantizar la seguridad y la privacidad de los usuarios. Un equipo dedicado evalúa la coherencia de los resultados de la IA y detecta posibles fallas en los modelos para aplicar soluciones de seguridad.

Además, la empresa ha establecido principios de gobernanza responsable y un proceso de revisión de seguridad para detectar y eliminar mensajes problemáticos en las primeras etapas del desarrollo de sus experiencias de IA Lens. También están implementando pruebas adicionales para minimizar cualquier sesgo potencial en los resultados de la IA.

Esta iniciativa subraya el compromiso de Snapchat con la transparencia y la seguridad en el uso de tecnologías avanzadas, asegurando que los usuarios estén informados sobre el origen de los contenidos generados y protegidos contra posibles usos indebidos de la IA.