La gran conferencia de desarrolladores de Google puso la inteligencia artificial en el centro de casi todo lo que hace la compañía. Desde la búsqueda hasta el correo electrónico, desde las fotos hasta el video – la IA ahora está tejida como una capa fundamental en el universo de productos de Google. Pero cuanto más datos tiene acceso la IA, más apremiante se vuelve la pregunta: ¿qué sucede exactamente con tu información?

Gemini Quiere Conocerte – Completamente

El gran modelo de lenguaje de Google, Gemini, es el núcleo de la nueva estrategia. A través de una función llamada “Personal Intelligence”, Gemini ahora puede extraer datos de Gmail, Google Fotos, el historial de búsqueda y la actividad de YouTube para proporcionar respuestas más personalizadas. Google enfatiza que la función está desactivada por defecto, pero según Stratechery, la compañía está animando activamente a los usuarios a activarla.

Esto crea lo que los expertos en privacidad llaman “sangrado de datos”. Miranda Bogen, Directora del AI Governance Lab en el Center for Democracy and Technology, señala que cuando el contenido personal fluye entre servicios y hacia el historial de conversaciones de los sistemas de IA, se vuelve cada vez más difícil seguir la pista de lo que está sucediendo – y aún más difícil establecer límites sobre lo que no debería suceder.

Cuando el contenido personal se integra en todos los productos, es cada vez más difícil seguir la pista de lo que realmente está sucediendo, y mucho menos establecer límites.
Google Integra la IA en Todo – ¿Pero Quién Protege tus Datos? - Bilde 1

¿Opt-in en Teoría, Opt-out en la Práctica?

Google asegura que los modelos centrales de la compañía no se entrenan con datos privados de Workspace sin permiso explícito. Al mismo tiempo, Gemini puede entrenarse con las interacciones del usuario – incluyendo respuestas que pueden contener resúmenes de correos electrónicos y archivos. No se ha documentado públicamente cuán eficazmente se filtra la información personal en este proceso.

Los usuarios han informado que Gemini Spark se siente “siempre activo”, y que la IA lee correos electrónicos privados y entradas de calendario sin que el consentimiento se sienta genuino. Los críticos caracterizan las prácticas de consentimiento de Google como “opt-in inicialmente, y 'no' significa 'quizás más tarde'”.

Resúmenes de IA en la Búsqueda – Y Preguntas sobre la Calidad de la Fuente

En la Búsqueda de Google, los “Resúmenes de IA” – resúmenes generados por IA – son ahora una parte permanente de la visualización de resultados. Los críticos temen que esto debilite la capacidad de los usuarios para evaluar de dónde proviene realmente la información, ya que se muestran menos enlaces a fuentes originales en comparación con la búsqueda tradicional.

Tampoco es poco problemático que los resúmenes de IA ahora citen directamente de redes sociales como Reddit. La cuestión de la fiabilidad y contextualización de tales fuentes ha sido planteada por varios observadores de medios. Errores anteriores – como cuando la IA de Google recomendó pegamento como aderezo para pizza – aún proyectan una sombra sobre la reputación del sistema.

Google Play Protect escanea 200 mil millones de aplicaciones de Android diariamente – pero ¿quién escanea a Google mismo?

¿DeepMind y los Objetivos Comerciales de Google – el Mismo Rumbo?

Otra tensión subyacente destacada por Stratechery es la relación entre DeepMind y las ambiciones comerciales de Google. La pregunta de si la división de investigación opera en sintonía con – o independientemente de – el negocio principal de Google no ha sido respondida. Es una pregunta que será cada vez más relevante a medida que los sistemas de IA ocupen más espacio en productos que afectan directamente a miles de millones de usuarios.

200 mil millones
Aplicaciones de Android escaneadas diariamente
10 mill. USD
Pagados en recompensas por errores (2023)

La Tecnología Está Lista – La Regulación se Queda Atrás

La rápida integración de la IA en toda la cartera de productos de Google ejerce presión sobre la legislación de privacidad existente. Los expertos señalan que conceptos como “procesamiento” y “transparencia” deben redefinirse para mantenerse al día con lo que ahora sucede en la práctica. Hasta que eso ocurra, gran parte de la responsabilidad recae en los propios usuarios – quienes en muchos casos carecen tanto de las herramientas como de la información necesaria para tomar decisiones verdaderamente informadas.