¿PUEDE CHATGPT LEER TUS CONVERSACIONES? EL CASO QUILMES REVELA CÓMO FUNCIONA LA REVISIÓN HUMANA Y LA SEGURIDAD EN LA IA

A RAÍZ DE LA INVESTIGACIÓN A UN ADOLESCENTE QUE PLANIFICABA UN ATAQUE ESCOLAR, SE DESTAPÓ EL DEBATE SOBRE LOS LÍMITES DE LA PRIVACIDAD, EL ANÁLISIS AUTOMÁTICO DE MENSAJES Y LA COOPERACIÓN CON LA JUSTICIA EN PLATAFORMAS COMO OPENAI, GEMINI Y CLAUDE.

El caso de un adolescente domiciliado en Quilmes que fue investigado tras detectarse planes para perpetrar un ataque en su institución educativa puso bajo la lupa el funcionamiento interno de los controles de seguridad de las plataformas de inteligencia artificial. El episodio expuso de qué manera gigantes tecnológicos como OpenAI, Google y Anthropic monitorean las interacciones de los usuarios y en qué circunstancias los chats privados pueden pasar a ser analizados por equipos humanos de revisión.

CÓMO FUNCIONA EL MONITOREO Y LA REVISIÓN HUMANA

Las conversaciones mantenidas en asistentes virtuales como ChatGPT no permanecen completamente en el anonimato cuando se detectan riesgos potenciales para la seguridad pública o la integridad física de personas. La infraestructura de procesamiento opera bajo un esquema de dos capas:

• Sistemas automáticos de moderación: Filtros algorítmicos analizan en tiempo real el contexto, la intención y los patrones del diálogo, yendo más allá de la simple identificación de palabras clave sueltas.
• Derivación a personal especializado: Cuando los algoritmos detectan que una interacción supera determinados umbrales de alerta o incumplimiento de políticas de uso (como amenazas, planificación de delitos o violencia), el contenido es derivado a un equipo técnico especializado para su revisión humana.

EL MITO DE LA PRIVACIDAD Y LOS CHATS TEMPORALES

Uno de los puntos que genera mayor controversia entre los usuarios es el alcance de las opciones de privacidad configurables en las plataformas:

«Desactivar la opción para que las conversaciones se utilicen en el entrenamiento de los modelos no elimina ni deshabilita los sistemas de control contra abusos e infracciones».

• Retención por seguridad: Aunque el usuario opte por utilizar la modalidad de “chats temporales” —los cuales no se emplean para el entrenamiento del sistema—, la información no se borra de manera instantánea.
• Ventana de 30 días: Las empresas almacenan estos registros en sus servidores durante un lapso de 30 días antes de su eliminación definitiva. Durante ese período, los datos permanecen auditables ante la eventual detección de riesgos de seguridad.

EL ESTÁNDAR DE LA INDUSTRIA: CHATGPT, GEMINI Y CLAUDE

El modelo de supervisión aplicado por OpenAI no es exclusivo de su plataforma. Firmas como Google (con Gemini) y Anthropic (con Claude) implementan esquemas equivalentes que diferencian estrictamente entre el procesamiento de datos para alimentar sus modelos algorítmicos y las tareas de monitoreo con fines de seguridad.

Asimismo, las políticas de uso de las tres compañías contemplan expresamente la preservación de registros y la entrega de información a las autoridades competentes ante requerimientos judiciales formalizados o situaciones de emergencia inminente que pongan en peligro vidas humanas.