Meta ha decidido suspender temporalmente un sistema interno que se utilizaba para registrar la actividad informática de sus empleados, tras la detección de una brecha de seguridad que expuso conversaciones privadas dentro de la compañía.
Esta herramienta, conocida como Model Capability Initiative (MCI), fue implementada con el fin de recopilar datos reales sobre cómo los empleados interactúan con sus computadoras y aplicaciones, lo que permitiría entrenar modelos de inteligencia artificial más sofisticados.
No obstante, una filtración de datos reveló información privada de los trabajadores, lo que llevó a la empresa a pausar el programa mientras se investiga el incidente.
MCI registraba diferentes aspectos de la actividad digital de los empleados, tales como clics, pulsaciones de teclado y navegación dentro de aplicaciones específicas.
Meta había explicado al lanzar esta iniciativa que los datos recopilados permitirían generar ejemplos reales de uso para entrenar sistemas de inteligencia artificial que asistieran a las personas en tareas cotidianas realizadas desde una computadora. «Si estamos creando agentes para ayudar a las personas a realizar tareas cotidianas con ordenadores, nuestros modelos necesitan ejemplos reales de cómo los utilizan realmente los usuarios», había señalado la compañía en abril.
El sistema formaba parte de los esfuerzos de Meta por desarrollar agentes de IA que comprendieran mejor el comportamiento humano frente a una pantalla y ejecutaran acciones de manera más eficaz.
La brecha de seguridad fue revelada por el medio especializado Business Insider, que accedió a capturas de pantalla relacionadas con el incidente. Aunque Meta reconoció la situación, aseguró que hasta el momento no hay indicios de que empleados hayan accedido de forma indebida a información privada de otros trabajadores.
La empresa también sostuvo que el programa fue diseñado con medidas de protección para preservar la privacidad de los participantes en el proceso de recopilación de datos. «El sistema fue cuidadosamente diseñado con salvaguardias de privacidad», indicó la compañía en declaraciones recogidas por el medio estadounidense.
A pesar de esto, el incidente llevó a la suspensión inmediata del proyecto mientras continúan las investigaciones internas.
La situación reabre el debate acerca de los métodos utilizados por las grandes tecnológicas para obtener datos que sirvan al entrenamiento de sistemas de inteligencia artificial. En los últimos años, empresas como Meta, OpenAI, Google y Anthropic han incrementado la búsqueda de información que permita mejorar las capacidades de sus modelos, especialmente aquellos destinados a automatizar tareas complejas realizadas por personas.
En este contexto, los datos de uso real son considerados especialmente valiosos, ya que muestran cómo los usuarios interactúan con programas, sitios web y herramientas digitales en situaciones cotidianas. Sin embargo, la recopilación de este tipo de información también genera cuestionamientos sobre privacidad, transparencia y protección de datos.
Cambios recientes en el sistema
Antes de la filtración, Meta ya había implementado algunas modificaciones para atender las inquietudes de los empleados. Entre ellas se incluía la opción de interrumpir temporalmente el monitoreo durante períodos de hasta 30 minutos, permitiendo realizar actividades personales sin que estas quedaran registradas por el sistema.
La compañía no ha informado cuándo podría reanudarse MCI ni si el incidente generará cambios permanentes en la estrategia de recopilación de datos utilizada para entrenar sus modelos de inteligencia artificial.
Con información de Montevideo Portal
