La mayoría de los usuarios desconocen que la Inteligencia Artificial puede generar fraudes como deepfakes
La Inteligencia Artificial ya forma parte de nuestras vidas, aunque quizá no lo notemos, sistemas como ChatGPT están transformando diversas tareas. Pero al parecer los usuarios no son conscientes de que hay riesgos y subestiman la capacidad de esta tecnología para cometer fraudes.
La mayoría de las personas creen que son capaces de identificar las posibles estafas en línea, por ejemplo, distinguir entre un video falso o deepfake, y uno real. Pero es más difícil de lo que la mayoría considera y con el tiempo será peor.
Conoce los riesgos que las tecnologías de IA suponen para la seguridad en línea.
Los consumidores desconocen los peligros de la IA generativa
De acuerdo con un estudio de Jumio, proveedor de soluciones automatizadas e integrales de verificación de identidad, la mayoría de los consumidores desconoce que es la IA generativa y las tecnologías deepfake.
El riesgo de ello es que esas tecnologías podrían acelerar el fraude de identidad haciendo cada vez más importante contar con sistemas para la verificación y autenticación en línea.
Imagen: Unsplash
El estudio también destaca que los consumidores parecen sobreestimar su capacidad para detectar deepfakes, lo que puede hacerlos aún más vulnerables a los ataques.
En la encuesta participaron 8,055 consumidores adultos de Reino Unido, Estados Unidos, Singapur y México.
Según los resultados, más de dos tercios (67%) afirman conocer las herramientas de IA generativa, como ChatGPT, DALL-E y Lensa AI, que pueden producir contenidos inventados, incluidos videos, imágenes y audio. Los consumidores de Singapur son los que más las conocen (87%) y los del Reino Unido los que menos (56%).
También mencionan que el 52% de los encuestados cree que podría detectar un video deepfake. Lo que demuestra un exceso de confianza por parte de los consumidores.
Lo anterior a pesar de que los datos de Jumio demuestran un aumento constante en el uso de deepfakes cada vez más sofisticados en todo el mundo y en todos los sectores, con una mayor presencia en las industrias de de pagos y criptomonedas.
«Mucha gente parece creer que puede detectar un deepfake. Aunque ciertamente hay pistas muy obvias, los deepfakes están mejorando exponencialmente todo el tiempo y son cada vez más difíciles de detectar sin la ayuda de la IA«, dijo Stuart Wells, CTO de Jumio.
¿Cómo estamos en México?
Como ya lo mencionamos, México participó en la encuesta de Jumio y los resultados reflejaron que tampoco son conscientes de los riesgos.
Cifras recientes de la Asociación de Internet de México muestran que 7 de cada 10 usuarios digitales en el país fueron víctimas de algún tipo de fraude cibernético en 2022. Además, 1 de cada 3 víctimas había sufrido suplantación de identidad.
Y es que, como menciona Jumio, el conocimiento superficial da paso al uso potencialmente perjudicial.
A pesar de lo anterior cada vez más consumidores van comprendiendo como estas tecnologías podrían utilizarse para alimentar la usurpación de identidad. De hecho, más de la mitad (57%) cree que el robo de identidad en línea será más fácil como consecuencia de ello.
Imagen: Unsplash
No obstante Philipp Pointner, director de identidad digital de Jumio, advierte que conocer los riesgos no será suficiente: «incluso la mejor educación nunca podrá detener por completo el uso de tecnologías emergentes por parte de un estafador. Las organizaciones en línea deben tratar de implantar sistemas de verificación biométrica multimodal que puedan detectar los deepfakes y prevenir el uso de información personal robada».
Con base en los resultados se sabe que más de dos tercios (68%) de los consumidores están dispuestos a utilizar una identidad digital para verificarse en línea.
Los principales sectores en los que preferirían una identidad digital a un documento de identidad físico (como la licencia de conducir o el pasaporte) son los servicios financieros (43%), la administración pública (38%) y los servicios de salud (35%).
