OpenAI aspira a transformar la privacidad en una ventaja competitiva emergente dentro del sector empresarial de la inteligencia artificial. Este jueves, la empresa ha lanzado Private Safety Processing, un sistema de vigilancia de seguridad que tiene como objetivo identificar potenciales usos indebidos de sus modelos avanzados sin requerir el almacenamiento de la información de las compañías que los emplean.
La propuesta se presenta cuando las empresas están implementando modelos de inteligencia artificial más fuertes en procesos comerciales delicados, que van desde la atención al cliente y el análisis de datos hasta la creación de software o la automatización. La posibilidad de usar inteligencia artificial sin poner en riesgo la información confidencial se ha vuelto un aspecto cada vez más importante para estos clientes.
Detectar amenazas sin guardar las conversaciones
Private Safety Processing amplía el enfoque de Zero Data Retention (ZDR) que OpenAI ya ofrece a determinados clientes de su API. Según esta política, las solicitudes y respuestas de los clientes que cumplen con los requisitos no se mantienen tras el procesamiento de la petición, y el contenido empresarial no se emplea para capacitar los modelos a menos que el cliente lo permita de modo explícito.
Lo novedoso es que el sistema nuevo permite el análisis de señales que provengan de un gran número de sesiones y conversaciones, en vez de quedar restringido a estudiar cada interacción por separado.
El propósito es distinguir conductas que podrían pasar inadvertidas si se estudia una sola conversación. Por ejemplo, si un usuario quisiera crear un código dañino, podría dividir sus solicitudes en varias sesiones para eludir los sistemas de detección convencionales.
La privacidad se convierte en un factor competitivo
Además, el movimiento tiene una lectura empresarial. Anthropic y OpenAI se enfrentan directamente por ser uno de los proveedores de inteligencia artificial más importantes para las grandes empresas, y la política de seguridad y privacidad está jugando un papel cada vez más importante en la decisión de contratación.
Anthropic, en este contexto, ha decidido recientemente utilizar un método distinto para ciertos modelos avanzados, estableciendo períodos de conservación de datos para ayudar a investigar y detectar posibles usos incorrectos.
La distinción entre las dos estrategias puede transformarse en un argumento de ventas para atraer a compañías que administran grandes cantidades de información confidencial y que requieren garantías suplementarias antes de incluir modelos de IA en sus operaciones.
OpenAI ya ofrece controles de retención de datos para entidades que satisfacen ciertos criterios, entre ellos Zero Data Retention para ciertos usos de su API. Asimismo, garantiza que los datos de la empresa se cifran tanto al ser transmitidos como al ser almacenados.
