Las aplicaciones que implementan LLM pueden sufrir riesgos o vulneraciones para la seguridad de los datos, por lo que comprenderlos y tomar acciones tempranas, es clave
Actualmente, existen muchos modelos de IA generativa, como Gemini, Llama, ChatGPT entre otros, estos modelos se les conoce como LLM (Large Language Model), un tipo de inteligencia artificial que revoluciona la forma en que las máquinas pueden interpretar y generar lenguaje humano.
La mayoría de los chatbots basados en LLM, contienen muchas redes neuronales que consumen grandes cantidades de información y alojándola en la nube, estando disponible para los proveedores de estos servicios y también para consultas posteriores de los usuarios.
Toda esta información puede ser utilizada para alimentar el aprendizaje de las redes neuronales, y mucha de ella, es información sensible que comparten los usuarios, por lo que los incidentes de seguridad, pueden estar a la orden del día.
¿Cuáles son las posibles amenazas a la privacidad de los datos?
• Fuga de datos: • A través del chatbot: Como mencioné anteriormente, la información que compartan los usuarios podrían usarse para entrenar las siguientes versiones de los modelos y ser extraídos de forma intencionada o involuntaria. Esto quiere decir que información como números de teléfono, direcciones u otros, quedarían disponibles para diversos usos. • Por el proveedor o hackeos: La posibilidad de ser víctimas de hackeos o filtraciones siempre está presente. Un ejemplo de ello ocurrió en ChatGPT:
Una falla en la plataforma, entregó datos privados de algunas entidades, como nombres de usuarios, correos y teléfonos, solo utilizando una combinación de palabras.
• Hackeo de cuentas: La información que se introduce día a día en los chatbots, está vulnerable ante ataques de phishing, o cualquier otro ciberataque, robando la información de ingreso de los usuarios y accediendo así a los diálogos guardados.
¿Cómo los desarrolladores de estos sistemas deben reforzar la seguridad?
• Control de accesos: Sólo los usuarios autorizados deben tener acceso a los modelos de IA y los respectivos datos que manejan.
• Cifrado y anonimización: Cifrar los datos de un formato legible a uno codificado, el cual solo puede leerse luego de ser descifrados, mientras se ocultan identidades y datos personales a través de la anonimización.
• Medidas de prevención de ataques: Detectar y prevenir es la clave, por eso se deben implementar medidas que resguarden los modelos de IA y sistemas.
• Auditorías de seguridad: Realizar constantemente auditorías que permitan identificar posibles debilidades, vulnerabilidades y riesgos en las aplicaciones de IA.
¿Qué debes hacer como usuario?
• Cuidado con lo que compartes: En muchas ocasiones, la información que suministras a las herramientas de IA, será utilizada para perfeccionarla posteriormente o también, pueden ocurrir filtraciones de datos. Por ello, es muy importante tener cuidado con los datos que se introduzcan, evitando información personal o sensible.
• Comprueba los términos y condiciones de las aplicaciones de IA: Utilizar cualquier aplicación, puede significar ceder a la empresa los derechos sobre todo lo que compartas, por ello es fundamental leer los términos y condiciones para saber a qué te expones y tomar las decisiones más adecuadas en cuanto a la información que introduzcas.
• Explorar los controles de privacidad y seguridad de las herramientas: Las herramientas de IA cuentan con controles de privacidad y seguridad visibles y fáciles de manejar, permitiéndote elegir, quizá, que los datos se borren de forma automática o que no sean utilizados para entrenar a los modelos.
Referencias:
Ref 2: https://securelist.lat/llm-based-chatbots-privacy/98183/
Ref 5: https://es.wired.com/articulos/como-usar-ia-generativa-mientras-proteges-tu-privacidad