¿QUÉ HACEN LOS ‘CHATBOTS’ CON TUS SECRETOS?
Ante la falta de una regulación detallada sobre el uso de la información personal por parte de los ‘chatbots’, las empresas tecnológicas aplican distintos enfoques para almacenar datos privados, utilizarlos con fines de personalización de respuestas, entrenar sistemas de Inteligencia Artificial, IA; e incluso configurar publicidad dirigida, indicó Axios. Según la publicación, actualmente existen tres modelos principales de gestión de los datos personales de los usuarios.
– Máxima privacidad
El primer enfoque, el más orientado a la privacidad, consiste en utilizar la información únicamente para responder a la solicitud actual, sin conservarla para usos posteriores. Un ejemplo destacado es Apple Intelligence: algunas tareas se procesan directamente en el dispositivo, mientras que las más complejas se envían al sistema Private Cloud Compute, que, según la compañía, no permite que Apple acceda al contenido ni lo utilice para entrenar modelos o personalizar servicios. De forma similar funciona el modo de chat incógnito de Meta Inteligencia Artificial: el servidor solo recibe la consulta para generar una respuesta y después los datos no se almacenan.
Este método ofrece la máxima protección de la información personal, pero limita las posibilidades de una personalización a largo plazo: el sistema no recuerda el contexto, las preferencias ni el historial de interacciones, por lo que cada conversación comienza desde cero.
– Máxima conciencia
El segundo enfoque representa un equilibrio entre privacidad y utilidad. En este caso, los datos se conservan para personalizar las respuestas y tener en cuenta las interacciones anteriores, pero el usuario dispone de herramientas para gestionar esa memoria. Por ejemplo, algunos servicios de la Inteligencia Artificial permiten consultar los recuerdos guardados, eliminar elementos concretos o pedir al ‘chatbot’ que ‘no recuerde’ determinada información. La función opcional Computer History de OpenAI registra qué aplicaciones y sitios web utiliza una persona, pero únicamente con su consentimiento.
Este modelo ofrece una experiencia de conversación mucho más relevante y continua, aunque exige una participación consciente del usuario: debe saber qué información se almacena y, si es necesario, eliminarla o modificarla manualmente. De este modo, parte de la responsabilidad sobre la privacidad pasa de la empresa al usuario, que obtiene herramientas de control, aunque estas no siempre sean evidentes o fáciles de utilizar.
– Máxima personalización
Por último, el tercer enfoque supone que los datos obtenidos durante las conversaciones con un ‘chatbot’ pueden utilizarse no solo dentro del propio diálogo, sino también para personalizar contenidos y publicidad en todo el ecosistema de la compañía. Meta, por ejemplo, afirma que las interacciones con su ‘chatbot’ pueden emplearse para ajustar anuncios y recomendaciones en sus servicios, incluidos sus dispositivos de gafas inteligentes, aunque excluye de este uso temas sensibles como la salud, la política o la religión. Google utiliza por defecto las fotografías y otros materiales subidos a través de la caja de búsqueda para entrenar sus sistemas de Inteligencia Artificial, aunque permite al usuario desactivar esta opción manualmente.
Este enfoque ofrece las mayores posibilidades de personalización profunda y monetización, pero al mismo tiempo genera los riesgos más importantes para la privacidad: la información íntima confiada a un ‘chatbot’ puede convertirse en parte de un amplio perfil personal utilizado para influir en el usuario, desde la publicidad hasta la formación de opiniones.
Por eso, la cuestión clave no es simplemente si los modelos se entrenan con los datos, sino cómo se utiliza fuera de la conversación el conocimiento acumulado sobre el usuario, concluyó Axios.
.