La seguridad es importante, y esto incluye la capacidad de controlar tus cuentas de redes sociales y protegerte de estafas. Por eso, se está probando el uso de tecnología de reconocimiento facial para ayudar a proteger a las personas de anuncios engañosos relacionados con celebridades y permitir una recuperación más rápida de las cuentas. Compartiendo este enfoque, se espera contribuir a fortalecer las defensas de la industria contra los estafadores en línea.

Protegiendo a las personas de anuncios engañosos relacionados con celebridades y suplantación

Los estafadores suelen utilizar imágenes de figuras públicas, como creadores de contenido o celebridades, para atraer a las personas a interactuar con anuncios que conducen a sitios web fraudulentos, donde se les pide que compartan información personal o envíen dinero. Este esquema, comúnmente conocido como “bait de celebridad”, viola nuestras políticas y es perjudicial para los usuarios de nuestros productos.  

Por supuesto, las celebridades aparecen en muchos anuncios legítimos. Pero dado que los anuncios engañosos están diseñados para parecer auténticos, no siempre son fáciles de detectar. Nuestro sistema de revisión de anuncios se basa principalmente en tecnología automatizada para revisar los millones de anuncios que se publican en las plataformas de Meta cada día. Utilizamos clasificadores de aprendizaje automático para revisar cada anuncio que se presenta en nuestras plataformas por violaciones a nuestras políticas publicitarias, incluyendo estafas. Este proceso automatizado incluye el análisis de los diferentes componentes de un anuncio, como el texto, la imagen o el video. 

Ahora se está probando una nueva forma de detectar estafas de bait de celebridad. Si nuestros sistemas sospechan que un anuncio puede ser fraudulento y contiene la imagen de una figura pública que corre el riesgo de ser usada en este tipo de anuncios, intentaremos utilizar tecnología de reconocimiento facial para comparar las caras en el anuncio con las fotos de perfil de la figura pública en Facebook e Instagram. Si confirmamos una coincidencia y determinamos que el anuncio es una estafa, lo bloquearemos. Inmediatamente eliminamos cualquier dato facial generado a partir de anuncios para esta comparación única, independientemente de si nuestro sistema encontró una coincidencia, y no lo utilizamos para ningún otro propósito.

Las pruebas iniciales con un pequeño grupo de celebridades y figuras públicas mostraron resultados prometedores en cuanto al aumento de la velocidad y eficacia con la que podemos detectar y actuar contra este tipo de estafa. Se comenzarán a mostrar notificaciones dentro de la aplicación a un grupo más amplio de figuras públicas afectadas por el bait de celebridad, informándoles que los estamos inscribiendo en esta protección. Las figuras públicas incluidas en esta protección pueden darse de baja en su Centro de Cuentas en cualquier momento.

También hemos observado que los estafadores suplantan a figuras públicas creando cuentas impostoras, con el objetivo de engañar a las personas para que interactúen con contenido fraudulento o envíen dinero. Por ejemplo, los estafadores pueden afirmar que una celebridad ha respaldado una oferta de inversión específica o pedir información personal sensible a cambio de un regalo gratuito. Actualmente utilizamos sistemas de detección y reportes de usuarios para ayudar a identificar posibles suplantadores. Estamos explorando agregar un paso adicional para ayudar a encontrar este tipo de cuentas falsas más rápidamente. Esta capa adicional de defensa funcionaría utilizando tecnología de reconocimiento facial para comparar fotos de perfil en la cuenta sospechosa con las fotos de perfil de una figura pública en Facebook e Instagram. Se espera probar esto y otros nuevos enfoques pronto.

Ayudando a las personas a recuperar el acceso a sus cuentas

Las personas pueden perder el acceso a sus cuentas de Facebook o Instagram cuando olvidan su contraseña, pierden su dispositivo o son engañadas para entregar su contraseña a un estafador. Si sospechamos que una cuenta ha sido comprometida, requerimos que el titular de la cuenta verifique su identidad antes de recuperar el acceso, subiendo una identificación oficial o un certificado que incluya su nombre. 

Ahora se están probando selfies en video como medio para que las personas verifiquen su identidad y recuperen el acceso a cuentas comprometidas. El usuario subirá un video selfie y utilizaremos tecnología de reconocimiento facial para comparar el selfie con las fotos de perfil de la cuenta a la que intenta acceder. Esto es similar a las herramientas de verificación de identidad que ya se pueden utilizar para desbloquear un teléfono o acceder a otras aplicaciones.  

En cuanto alguien sube un video selfie, este será encriptado y almacenado de manera segura. Nunca será visible en su perfil, ni para amigos ni para otras personas en Facebook o Instagram. Inmediatamente eliminamos cualquier dato facial generado después de esta comparación, sin importar si hubo coincidencia o no. 

La verificación mediante video selfie amplía las opciones para que las personas recuperen el acceso a sus cuentas, solo toma un minuto completarlo y es la forma más sencilla para que las personas verifiquen su identidad. Si bien sabemos que los hackers seguirán intentando explotar las herramientas de recuperación de cuentas, este método de verificación será, en última instancia, más difícil de abusar por parte de los hackers que la verificación de identidad basada en documentos tradicionales. 

Enfoque responsable

Los estafadores son implacables y evolucionan continuamente sus tácticas para evadir la detección. Estamos igualmente decididos a mantenernos un paso adelante y seguiremos construyendo y probando nuevas defensas técnicas para fortalecer nuestras capacidades de detección y aplicación. Hemos evaluado estas medidas a través de nuestro riguroso proceso de revisión de privacidad y riesgo, y hemos construido salvaguardias importantes, como enviar notificaciones para educar a las personas sobre cómo funcionan, brindarles controles y asegurarnos de eliminar los datos faciales de las personas tan pronto como ya no sean necesarios. Deseamos ayudar a proteger a las personas y sus cuentas, y aunque la naturaleza adversarial de este campo significa que no siempre lo haremos bien, creemos que la tecnología de reconocimiento facial puede ayudarnos a ser más rápidos, precisos y efectivos. Continuaremos discutiendo nuestras inversiones en esta área con reguladores, formuladores de políticas y otros expertos.