La infraestructura de seguridad de Google, gestionada por el equipo de Trust & Safety, opera bajo una escala monumental para proteger a sus usuarios. Según datos de la compañía, Gmail bloquea más de 100 millones de intentos de phishing cada día, mientras que Google Play Protect analiza diariamente más de 100,000 millones de aplicaciones en busca de malware. Asimismo, los sistemas de Google Search detectan y bloquean 40,000 millones de páginas de spam cada día, y el sistema Safe Browsing protege a 5,000 millones de dispositivos en tiempo real.
El área de Trust & Safety, que comenzó con dos pequeños equipos enfocados en la calidad de anuncios y spam web, hoy supervisa más de 14 productos, cada uno con más de 1,000 millones de usuarios. La estrategia actual se centra en identificar comportamientos y actores maliciosos en lugar de solo eliminar contenido aislado, un enfoque que la ejecutiva del área describe como superior al juego de “golpear al topo”.
La llegada de la inteligencia artificial generativa ha transformado el panorama. Si bien no han surgido nuevas formas de fraude, los actores maliciosos están utilizando estas herramientas para aumentar su productividad y compartir estrategias de ataque con mayor rapidez. Ante esto, Google ha reducido drásticamente sus tiempos de respuesta: un clasificador que antes requería seis meses para construirse, ahora puede estar operativo en un solo día.
Para los productos de IA, la compañía implementa un protocolo que incluye el diseño de documentos de responsabilidad, pruebas automatizadas y ejercicios de 'red teaming', donde expertos humanos intentan vulnerar los sistemas. A pesar de estas medidas, la empresa ha enfrentado fallos públicos, como ocurrió en 2024 con las respuestas inexactas de 'AI Overviews' y los errores en la generación de imágenes de Gemini. En estos casos, el CEO de Google, Sundar Pichai, calificó algunas respuestas como “inaceptables”.
Ante cualquier error, la compañía realiza 'blameless postmortems' para identificar fallas en los procesos o políticas. “Es un ciclo continuo de intentar algo, aprender de ello, volver a intentarlo y mejorar”, señala la ejecutiva, subrayando que el objetivo de Trust & Safety es establecer las reglas que permitan maximizar los beneficios de la tecnología mientras se minimizan los riesgos.
