Seguridad y privacidad IA – Clouzzy Technologies

Principales preocupaciones y riesgos sobre la IA

Los líderes mundiales y empresariales tienen serias preocupaciones de seguridad asociadas al uso de Inteligencia Artificial. Los temas más abordados son:

Uso malintencionado y dilemas éticos.
Sesgo (intencionado o no) en datos e información que se utilizó para entrenar el modelo.
Pérdida de empleos.
Deepfake: suplantación de identidad por audio, imágen o video.
Falta de regulaciones locales e internacionales.
Fuga de información confidencial de las compañías hacia los modelos generales de aprendizaje autónomo (propiedad intelectual, secreto industrial).

Comprender más sobre los riesgos listados; leer: sin seguridad, no hay intenigencia artificial.

En el entorno empresarial, es importante tomar medidas para abordar estas preocupaciones y garantizar la seguridad, privacidad y cumplimiento.

Microsoft: Inteligencia artificial ética

Una de las razones por las que Clouzzy apuesta por la Inteligencia Artificial de Microsoft, es el fuerte compromiso con el avance de la IA controlada por una serie de principios éticos: Transparencia, Privacidad y seguridad, Confiabilidad, Equidad , Inlcusión y Responsabilidad (leer más). Ahondemos un poco en los servicios de IA Generativa desplegados por Microsoft dentro de Copilot.

Como principal inversionista de OpenAI, Microsoft ha implementado una copia (instancia) de ChatGPT en servidores internos de Microsoft Azure y ha agregado varias capas, permitiendo a las empresas aprovechar la potencia de la IA sin comprometer la seguridad y privacidad de la información. Algunas de estas funciones son:

Autenticación y control de acceso: Asegura que sólo los usuarios autorizados puedan acceder a los servicios y datos.
Encriptación de datos: Protege la información tanto en tránsito como en reposo.
Detección de amenazas: Utiliza herramientas avanzadas para identificar y mitigar posibles riesgos de seguridad.
Gestión de identidades: Permite una administración segura de identidades y accesos.
Cumplimiento de normativas: Alinea los servicios con las regulaciones de privacidad y seguridad globales.
Privacidad por diseño: Integra la privacidad en el desarrollo y operación de los servicios de IA.
Transparencia: Ofrece visibilidad sobre cómo se manejan y protegen los datos.

Seguridad de Microsoft 365 integrada en Copilot

Copilot para Microsoft 365 no sólo está integrado para consumirse fácilmente desde Microsoft 365 (Teams, Outlook, Word, Excel, Etc.) sino también hereda todas las políticas de seguridad, cumplimiento y privacidad existentes en Microsoft 365, lo que aporta una capa sumamente robusta. 

Copilot está diseñado para proteger tus datos. Tu información nunca sale del entorno seguro que Microsoft resguarda y nunca se utiliza para fines de entrenamiento del modelo general de Inteligencia Artificial.

Cuando le preguntas a Copilot sobre el «Informe de ventas de marzo», va a encontrar el documento (leer más sobre el funcionamiento de Copilot), pero también revisará si eres la persona adecuada, con los permisos de acceso correctos, desde las ubicaciones y dispositivos permitidos para acceder a la información y entonces decidirá si te lo muestra, si te deja imprimir, reenviar o mostrar en pantalla durante una reuión web.

Funcionamiento detallado de los mecanismos de seguridad

Cuando realizas una petición (prompt) para Copilot, la solicitud se modifica para ocultar detalles del usuario, compañía y entorno de trabajo. La versión de Chat GPT instalada en servidores de Microsoft (instancia) se encuentra resguardada sin la posibilidad de acceso por parte de OpenAI; con esto se garantiza que tu información NO se utilice para alimentar los modelos públicos de aprendizaje automático y que no se ponga en riesgo la propiedad intelectual de tu organización. La instrucción sigue una estricta ruta que incluye verificaciones de ética, privacidad, niveles de acceso y cumplimiento (compliance) necesarias para brindar confianza y tranquilidad en el uso cotidiano.

Pre-requisitos críticos para que Copilot funcione mejor:

COLABORAR EN MICROSOFT 365
Asegurar que los equipos de trabajo utilizan los espacios de colaboración diseñados para tal fin: Los correos de Outlook, las conversaciones y videollamadas en Teams, los documentos en Equipos de TEAMS y/o bibliotecas de documentos en Sharepoint y OneDrive empresarial.
CONFIGURAR POLÍTICAS DE CIBERSEGURIDAD
Configurar herramientas y políticas de cibersegruidad para asegurar que sólo las personas adecuadas tienen acceso a la información relacionada con su trabajo y nivel de acceso. Copilot mostrará sólo lo que cada usuario tiene autorizado consumir.

Leer más sobre: Ciberseguridad en Microsoft 365

(1) New Technology: The projected Total Economic Impact of Microsoft Copilot for Microsoft 365