— Agencias 08/10/2026
La inteligencia artificial permite multiplicar los intentos de fraude, mientras Google refuerza sus sistemas para detectar patrones y proteger a millones de usuarios.
La inteligencia artificial está modificando la velocidad y escala con la que ocurren los fraudes y abusos en internet, al permitir que actores maliciosos generen contenido, prueben métodos y multipliquen sus intentos.
Google busca responder al fenómeno mediante su área de Trust & Safety, que analiza patrones de comportamiento y señales que permiten identificar a los actores detrás de diferentes tipos de abuso digital.
Google enfrenta amenazas a gran escala
Laurie Richardson, vicepresidenta de Trust & Safety de Google, explicó que la lucha contra los abusos digitales se ha convertido en un problema de volumen.
La dimensión de las amenazas puede observarse en las cifras de algunos servicios de la compañía. Gmail bloquea más de 100 millones de intentos de phishing cada día, mientras Google Play Protect analiza más de 100,000 millones de aplicaciones diariamente en busca de malware y otras amenazas.
En Google Search, los sistemas de protección detectan y bloquean alrededor de 40,000 millones de páginas de spam cada día.
Además, Safe Browsing protege aproximadamente 5,000 millones de dispositivos frente a sitios potencialmente peligrosos.
Las cifras corresponden a métricas individuales de cada producto y no deben sumarse como si representaran una misma categoría de ataques.
Trust & Safety busca detectar a los actores
El área de Trust & Safety existe en Google desde los primeros años de la compañía y comenzó con equipos enfocados en la calidad de los anuncios y la detección de spam.
Con el crecimiento de los servicios digitales, sus funciones se ampliaron para incluir seguridad infantil, elecciones, discurso de odio, operaciones y comportamiento abusivo.
Actualmente, el área trabaja en productos como Search, Ads, YouTube, Play, Android, Chrome y los sistemas de inteligencia artificial generativa de Google.
Richardson explicó que la estrategia se concentra en tres niveles: contenido, comportamiento y actores.
Detectar cada publicación, página o mensaje de manera individual puede generar un proceso interminable. Por ello, Google busca identificar señales que permitan relacionar diferentes acciones y llegar al comportamiento o al actor que origina el abuso.
La IA aumenta la capacidad de los atacantes
La expansión de la IA generativa introdujo una nueva dimensión en el problema, debido a que los atacantes también pueden utilizar estas herramientas para aumentar su productividad.
De acuerdo con Richardson, el cambio no necesariamente consiste en la aparición de nuevas formas de fraude, sino en la capacidad de ejecutar métodos conocidos a una escala mucho mayor.
Las herramientas de IA permiten a los atacantes probar métodos, identificar rápidamente cuáles funcionan y compartir estrategias con otros integrantes de organizaciones criminales.
Al mismo tiempo, Google utiliza tecnología similar para detectar patrones que antes podían ser más difíciles de relacionar.
La compañía cuenta con clasificadores basados en agentes capaces de identificar determinados tipos de contenido, encontrar señales relacionadas y poner esos sistemas a disposición de los equipos en periodos más cortos.
Google incorpora seguridad desde el diseño
En los productos de inteligencia artificial generativa, Trust & Safety participa desde las primeras etapas de desarrollo.
Los equipos elaboran documentos de responsabilidad que establecen las protecciones que deben incorporarse al producto desde su diseño.
Posteriormente se realizan pruebas automatizadas, conocidas como evals, y ejercicios de red teaming, en los que especialistas intentan encontrar formas de vulnerar los sistemas mediante consultas diseñadas para poner a prueba sus límites.
Una vez que el producto llega a los usuarios, Google analiza reportes, señales y registros bajo mecanismos diseñados para proteger la privacidad, con el objetivo de detectar patrones de uso y posibles fallas en las barreras de seguridad.
Google utiliza marcas para identificar contenido generado
La compañía también trabaja en mecanismos para identificar el origen de contenido generado mediante inteligencia artificial.
Uno de ellos es SynthID, una marca de agua invisible incorporada a contenidos creados con determinados sistemas de Google.
La empresa también participa en C2PA, un estándar que permite aportar información sobre el origen y las modificaciones realizadas a contenidos digitales.
Google señala que ambas tecnologías proporcionan señales diferentes: SynthID busca mantener la identificación incluso ante determinadas manipulaciones, mientras C2PA está orientado a facilitar la interoperabilidad entre compañías y productos.
Los sistemas de IA también pueden equivocarse
Las herramientas automatizadas no garantizan que los sistemas de inteligencia artificial funcionen correctamente en todos los casos.
Google tuvo que corregir algunos de sus productos después de que usuarios detectaran respuestas incorrectas o comportamientos que no habían sido identificados durante las evaluaciones previas.
En 2024, AI Overviews, la función de Search que genera resúmenes mediante IA, presentó algunas respuestas incorrectas. Google reconoció entonces problemas relacionados con la interpretación de consultas, el lenguaje de determinadas páginas y la disponibilidad de información de calidad.
Ese mismo año, Google suspendió temporalmente la generación de imágenes de personas en Gemini después de que usuarios detectaran representaciones históricas incorrectas.
Google revisa sus fallas para corregir sistemas
Cuando identifica un problema, Google utiliza los llamados blameless postmortems, revisiones estructuradas destinadas a determinar en qué punto falló un proceso.
El análisis puede determinar si existió un problema en las políticas, si faltó alguna señal o si los equipos no identificaron adecuadamente las necesidades y reportes de los usuarios.
La compañía considera este proceso como un ciclo continuo de pruebas, aprendizaje y ajustes, especialmente ante una tecnología capaz de amplificar tanto sus beneficios como sus riesgos.
Instala la nueva aplicación de El Tiempo MX