Apple ha anunciado recientemente sus primeros productos con herramientas de IA generativa totalmente integradas, entre los que se incluye el iPhone 16. Se espera que esta iniciativa suponga avances significativos en la experiencia del usuario y las capacidades de los dispositivos. Sin embargo, también suscita inquietudes sobre la privacidad y la seguridad de los datos corporativos tanto en los dispositivos de los empleados como en los de la empresa. 

En este blog, analizaremos lo que sabemos sobre las medidas de seguridad que Apple promete implementar, las preguntas pendientes para los responsables de seguridad y privacidad, y cómo BlackBerry puede ayudarle a proteger su organización a medida que gestiona un número cada vez mayor de herramientas de IA generativa. 

¿Qué es Apple Intelligence?

Apple denomina su incursión en el ámbito de la IA «Apple Intelligence», con un lanzamiento beta previsto para otoño de 2024. Al igual que la mayoría de las herramientas de IA generativa, Apple Intelligence está diseñada para proporcionar a los usuarios herramientas y capacidades inteligentes potentes y rápidas. En este caso, se trata de ayudarles a escribir, expresarse y realizar tareas de forma más eficiente. Pero, ¿cómo afecta este lanzamiento a la seguridad y la privacidad de los datos corporativos? Repasemos los puntos clave de la IA de Apple que se han revelado hasta ahora.

¿Qué está haciendo Apple para proteger la seguridad de los datos y la privacidad de los usuarios?

Apple ha anunciado dos funciones de mitigación de riesgos. Una es la computación en el dispositivo y la otra es Private Cloud Compute.

Procesamiento de IA en el dispositivo

Muchas de las nuevas funciones de IA de Apple, como Writing Tools, Image Wand y Genmoji, solo están disponibles en los iPhone y dispositivos nuevos y recientes. Esto se debe a que Apple Intelligence realizará todo el procesamiento posible de forma local, en cada dispositivo individual.

Computación en nube privada

Para la informática fuera del dispositivo, la empresa desarrolló Private Cloud Compute (PCC). El diseño y la arquitectura del servicio demuestran un profundo conocimiento de los retos que plantea la informática en la nube en materia de privacidad y la voluntad de ampliar los límites de lo que es posible para proteger la información confidencial. Apple también prometió que «sus datos nunca se almacenan» y que «solo se utilizan para sus solicitudes». 

El informe técnico sobre Private Cloud Compute documenta su diseño y parece indicar que se toman en serio esa afirmación. 

Estos son algunos de los objetivos clave de diseño que Apple afirma haber tenido en cuenta al crear el PCC:

• Cálculo sin estado de los datos del usuario: procesar los datos del usuario únicamente para satisfacer la solicitud, sin dejar rastro tras la respuesta.

• Garantía ejecutable: Asegúrese de que todos los componentes críticos respalden las garantías básicas de seguridad y privacidad.

• Sin acceso privilegiado en tiempo de ejecución: Evita el incumplimiento de las garantías de privacidad, incluso para la resolución de incidentes.

• No dirigibilidad: El sistema está diseñado para resistir ataques dirigidos a usuarios específicos.

• Transparencia verificable: Permite a los investigadores de seguridad verificar las garantías de privacidad y seguridad de PCC.

Al ampliar los límites de la privacidad en la nube, Apple ha creado una plataforma de computación en la nube que puede sentar un precedente para otros proveedores de tecnología.

Riesgos empresariales de la IA generativa a tener en cuenta

Muchas empresas utilizan aplicaciones seguras para controlar su información confidencial. Una de las principales preocupaciones que hemos escuchado con respecto a Apple Intelligence tiene que ver con su nuevo conjunto de herramientas de escritura.

 Según nuestras conversaciones con usuarios de Apple preocupados por la seguridad, estos buscan varias garantías por parte de Apple, entre las que se incluyen las siguientes: 

• Quieren claridad sobre a qué datos tiene acceso Apple Intelligence.

• Las organizaciones necesitan visibilidad sobre cuándo sus datos salen del dispositivo para comprender cuál es el procesamiento local y cuál es el procesamiento en la nube. 

• Buscan controlar los escenarios en los que Apple puede utilizar sus datos corporativos para entrenar modelos de IA.

• Los responsables de seguridad y privacidad desean garantías de que el modelo «Private Compute Cloud» anunciado por Apple es realmente privado. 

• Tienen curiosidad por saber cómo se agregan, anonimizan y cifran los datos, y también cuánto tiempo se almacenan.

• Se preguntan si existe la opción de renunciar al uso de la IA si consideran que el modelo de privacidad de Apple no es satisfactorio para su organización.

El enfoque de BlackBerry: Control y elección

La fantástica noticia para los clientes de BlackBerry es que no tienen que preocuparse por la respuesta a la mayoría de las preguntas mencionadas anteriormente. Para las empresas cuyos parques de dispositivos estén compuestos por iPhones totalmente gestionados (MDM), BlackBerry ya ha incluido controles para diversas funciones de Apple Intelligence, como las herramientas de escritura, en la actualización del paquete de políticas del otoño de 2024.

Para implementaciones de dispositivos solo para aplicaciones (MAM/BYOD), BlackBerry está añadiendo controles a nivel de aplicación para proporcionar a nuestros clientes las opciones que necesitan para cumplir con sus requisitos de seguridad de datos cuando se utilizan dispositivos personales con nuestras aplicaciones de productividad seguras de BlackBerry.  

Esto proporciona una flexibilidad única; por ejemplo, usted puede:

• Controla la experiencia de las herramientas de escritura de Apple en todo el dispositivo.

• Controle la experiencia de escritura de Apple solo dentro de las aplicaciones de productividad seguras de BlackBerry, lo que permite al usuario utilizar las nuevas funciones para sus aplicaciones personales.

Hoy y mirando hacia el futuro

En mi trabajo, veo clientes con necesidades de seguridad muy diversas relacionadas con el uso de la IA en dispositivos móviles. Los clientes suelen estar menos preocupados cuando utilizan el procesamiento local, ya que sus datos no salen del dispositivo móvil. Sin embargo, los datos no deben moverse por el dispositivo y todo el procesamiento local debe ser efímero, como ocurre con la memoria del dispositivo (RAM), por ejemplo. En general, las preocupaciones de los clientes se centran en comprender cuándo los datos pueden salir de sus dispositivos móviles y cómo se gestionan esos datos si es así.

El enfoque de BlackBerry respecto a la seguridad de los dispositivos móviles ha sido siempre el de ofrecer a nuestros clientes opciones y control. Ofrecemos flexibilidad a nuestros clientes para que implementen diferentes niveles de control según sus diversas necesidades de seguridad y cumplimiento normativo. Nuestras herramientas ayudan a las empresas a alcanzar el equilibrio adecuado entre seguridad, usabilidad y productividad.

A medida que el ecosistema de Apple gana confianza en el uso de Apple Intelligence, BlackBerry, como pionera en el uso de IA/ML, estará a la vanguardia, impulsando flujos de trabajo de productividad de última generación basados en el correo electrónico seguro y la aplicación de productividad BlackBerry Work el navegador empresarial fiable y seguro BlackBerry Access. 

Lecturas relacionadas

• Seminario web: Informe sobre amenazas globales de septiembre de 2024