Conozca cómo están atacando el fraude con inteligencia artificial las redes sociales

En un contexto donde los fraudes cibernéticos están aumentando y cada vez son más las modalidades de realizarlos, las empresas de redes sociales están implementando la inteligencia artificial para proteger a sus usuarios.

Meta, la compañía detrás de plataformas como WhatsApp, Facebook e Instagram, anunció un enfoque de reconocimiento facial para detectar y prevenir fraudes a través de la IA.

Pues a pesar de que “existen diversas formas de identificar el fraude, especialmente cuando se ofrecen beneficios económicos desproporcionados a bajo costo o con un esfuerzo mínimo”, como menciona Carlos Charry, director del Doctorado y la Maestría en Estudios Sociales de la Universidad del Rosario

Según Statista, en Colombia, casi 60% de los habitantes utilizaron las redes sociales para mantener el contacto con amigos y familiares; la segunda más frecuente de uso fue leer sobre novedades, con más de 50%, mientras que en tercer lugar, está la búsqueda de contenido.

Lo que se correlaciona con la razón mas común en los fraudes que responde a la suplantación de identidad.

La idea de Meta para combatir este tipo de ciberataques sería implementando un sistema basado en reconocimiento facial que permite identificar publicaciones fraudulentas. Este sistema utiliza aprendizaje automático para analizar millones de publicaciones diarias en sus plataformas, evaluando diversos factores como el texto, la imagen y el video.

Cuando se detecta una publicación sospechosa, esta tecnología de Meta compara el contenido publicado con fotos verificadas, y es caso de que esta sea fraudulenta, inmediatamente se bloquea y se elimina de inmediato. Esta alternativa se está probando en un primer momento con celebridades y cuentas verificadas, excluyendo a aquellos en la Unión Europea debido a las regulaciones de privacidad.

“La evolución de la IA en detección de fraude en redes sociales ha sido significativa desde 2020, pero se ha intensificado en los últimos años con el advenimiento de la IA en cada paso de nuestras vidas”, afirmó Daniel Fernando Cortés, cofundador de Ethos EBS.

A medida que avanza este proyecto, se planea notificar a más figuras públicas que hayan sido víctimas de ‘deepfakes’, solicitando su autorización para formar parte del sistema.

Pero estas no serían las únicas implementaciones pues además de identificar estos ‘deepfakes’, las actualizaciones van encaminadas a todo un modelo de seguridad en el que por medio del reconocimiento facial y de voz, esperan mejorar la seguridad en la web y evitar más fraudes e este tipo.

Las opiniones son diversas, pues expertos como Charry aseguran que “es difícil determinar si la inteligencia artificial podrá ser exitosa en el control del fraude y de la información que no sea verdadera, información falsa que no sea corroborada porque la mayoría de la información que circunda en la web es información que no es corroborada que no es verificable”.

Argumentando que “que en cualquier momento se puede hacer un chat bot, pedirle que que filtre determinado tipo de información fundamentalmente en páginas oficiales, pero así todo la mayor parte de la información que discurre en la web no es verificable”.

Pero además de esto “se ha profundizado en sistemas de verificación biométrica más sofisticados usando modelos de IA generativa para identificar contenido manipulado. También se está trabajando en sistemas de autenticación multifactor mejorados que pueden detectar intentos de suplantación de identidad y actividades sospechosas basándose en múltiples señales como patrones de uso, ubicación geográfica y comportamiento del dispositivo en gestión”, aseguró Cortés.

Otros jugadores

Además de Meta, otros actores como Telegram, que supera los 900 millones de usuarios en todo el mundo, según Statista, utilizan la inteligencia artificial para prevenir fraudes.

La plataforma que se posicionó por su mensajería cifrada de extremo a extremo, impulsa esta alternativa por medio de IA generativa, que proporciona un mayor numero de espacio e información para administrar la mensajería.

Le ofrece la posibilidad a sus usuarios crear chats secretos, enviar mensajes por tiempo delimitado, seguir canales y unirse a grupos.

Aunque no es algo nuevo, presenta un enfoque innovador al integrar herramientas de IA que pueden procesar más datos de usuarios.

“Estos nuevos modelos logran procesar y analizar millones de interacciones por segundo, identificando contenido sintético o manipulado con una precisión superior a 95%, adaptándose a nuevas técnicas de fraude mediante aprendizaje continuo”, concluyó.