Un programa secreto de OpenAI, conocido como Project Lily, permite que empleados revisen fragmentos de tus conversaciones más privadas con el fin de mejorar las respuestas de la IA. La revelación expone un interrogante fundamental: ¿realmente están protegidas nuestras conversaciones cuando creemos que son privadas?
OpenAI emplea a cientos de contratistas externos para leer, resumir y evaluar conversaciones reales de ChatGPT, según una investigación de 404 Media basada en documentos internos y testimonios de trabajadores. Aunque estas conversaciones son anonimizadas y no muestran tu nombre de usuario, muchas pueden incluir detalles médicos, legales, financieros y otra información sensible.
Para el usuario latinoamericano que utiliza ChatGPT como herramienta de trabajo o asesoramiento personal, esta práctica representa un riesgo real. Los revisores pueden encontrar intercambios completos en los que las personas usan el chatbot como terapeuta, asistente profesional, compañero de programación o confidente. En Honduras y Centroamérica, donde cada vez más profesionales y estudiantes dependen de estas herramientas de inteligencia artificial, la transparencia sobre el acceso a datos personales es crítica.
Tras la publicación de la investigación, OpenAI afirmó que procesa las conversaciones mediante un filtro de privacidad antes de que lleguen a los contratistas. Este sistema tiene como objetivo detectar y eliminar información personal; sin embargo, la compañía reconoce que el filtro puede fallar en algunos casos. La empresa debe mejorar sus políticas de transparencia y permitir a los usuarios controlar qué información desean compartir para este tipo de revisiones.
