Apple a récemment annoncé ses premiers produits dotés d'outils d'IA générative entièrement intégrés, notamment l'iPhone 16. Cette initiative devrait apporter des avancées significatives en matière d'expérience utilisateur et de capacités des appareils. Cependant, elle soulève également des inquiétudes quant à la confidentialité et à la sécurité des données d'entreprise sur les appareils appartenant aux employés et à l'entreprise. 

Dans cet article, nous examinerons ce que nous savons des mesures de sécurité promises par Apple, les questions qui subsistent pour les responsables de la sécurité et de la confidentialité, et comment BlackBerry peut vous aider à protéger votre organisation alors que vous gérez un nombre croissant d'outils d'IA générative. 

Qu'est-ce que l'intelligence Apple ?

Apple appelle son entrée dans le domaine de l'IA « Apple Intelligence », dont la version bêta sera lancée à l'automne 2024. Comme la plupart des outils d'IA générative, Apple Intelligence est conçu pour offrir aux utilisateurs des outils et des fonctionnalités intelligents, puissants et rapides. Dans ce cas précis, il s'agit de les aider à rédiger, à s'exprimer et à accomplir leurs tâches plus efficacement. Mais quel sera l'impact de ce lancement sur la sécurité et la confidentialité des données d'entreprise ? Passons en revue les points clés de l'IA d'Apple qui ont été révélés jusqu'à présent.

Que fait Apple pour protéger la sécurité des données et la confidentialité des utilisateurs ?

Apple a annoncé deux fonctionnalités visant à réduire les risques. L'une concerne le calcul sur l'appareil, l'autre le Private Cloud Compute.

Traitement IA sur appareil

De nombreuses nouvelles fonctionnalités d'IA d'Apple, telles que les outils d'écriture, Image Wand et Genmoji, ne sont disponibles que sur les iPhone et appareils récents. En effet, Apple Intelligence effectuera autant de traitements que possible localement, sur chaque appareil individuel.

Informatique en nuage privé

Pour l'informatique hors appareil, la société a développé Private Cloud Compute (PCC). La conception et l'architecture de ce service témoignent d'une compréhension approfondie des défis posés par le cloud computing en matière de confidentialité et d'une volonté de repousser les limites du possible pour protéger les informations sensibles. Apple a également promis que « vos données ne sont jamais stockées » et qu'elles sont « utilisées uniquement pour répondre à vos demandes ». 

Le livre blanc Private Cloud Compute documente leur conception et semble indiquer qu'ils prennent cette affirmation très au sérieux. 

Voici quelques-uns des principaux objectifs de conception qu'Apple dit avoir poursuivis lors de la création du PCC :

• Calcul sans état sur les données utilisateur : traiter les données utilisateur uniquement pour répondre à la demande, sans laisser de trace après la réponse.

• Garantie exécutoire : veiller à ce que tous les composants critiques prennent en charge les garanties fondamentales en matière de sécurité et de confidentialité.

• Aucun accès privilégié au runtime : empêche le contournement des garanties de confidentialité, même pour la résolution d'incidents.

• Non-ciblabilité : le système est conçu pour résister aux attaques ciblées contre des utilisateurs spécifiques.

• Transparence vérifiable : permettre aux chercheurs en sécurité de vérifier les garanties de confidentialité et de sécurité de PCC.

En repoussant les limites de la confidentialité dans le cloud, Apple a créé une plateforme de cloud computing qui pourrait servir de précédent pour d'autres fournisseurs de technologies.

Risques commerciaux liés à l'IA générative à surveiller

De nombreuses entreprises utilisent des applications sécurisées pour contrôler leurs informations confidentielles. L'une des principales préoccupations que nous avons entendues concernant Apple Intelligence concerne son nouvel ensemble d'outils d'écriture.

 D'après nos discussions avec des utilisateurs Apple soucieux de la sécurité, ceux-ci attendent plusieurs garanties de la part d'Apple, notamment les suivantes : 

• Ils veulent savoir clairement à quelles données Apple Intelligence a accès.

• Les organisations ont besoin de visibilité sur le moment où leurs données quittent l'appareil afin de comprendre quelle est la différence entre le traitement local et le traitement dans le cloud. 

• Ils cherchent à contrôler les scénarios dans lesquels Apple pourrait utiliser leurs données d'entreprise pour entraîner des modèles d'IA.

• Les responsables de la sécurité et de la confidentialité souhaitent obtenir l'assurance que le modèle « Private Compute Cloud » annoncé par Apple est véritablement privé. 

• Ils sont curieux de savoir comment les données sont agrégées, anonymisées et cryptées, ainsi que pendant combien de temps elles sont conservées.

• Ils s'interrogent sur la possibilité de refuser l'utilisation de l'IA s'ils estiment que le modèle de confidentialité d'Apple n'est pas satisfaisant pour leur organisation.

L'approche BlackBerry : contrôle et choix

La bonne nouvelle pour les utilisateurs de BlackBerry, c'est qu'ils n'ont pas à se soucier de la réponse à la plupart des questions énumérées ci-dessus. Pour les entreprises dont le parc d'appareils est composé d'iPhones entièrement gérés (MDM), BlackBerry a déjà intégré des contrôles pour diverses fonctionnalités d'Apple Intelligence, telles que les outils d'écriture, dans la mise à jour du pack de politiques prévue pour l'automne 2024.

Pour les déploiements d'appareils réservés aux applications (MAM/BYOD), BlackBerry ajoute des contrôles au niveau des applications afin d'offrir à ses clients les options dont ils ont besoin pour répondre à leurs exigences en matière de sécurité des données lorsque des appareils personnels sont utilisés avec ses applications de productivité sécurisées BlackBerry.  

Cela offre une flexibilité unique ; par exemple, vous pouvez :

• Contrôlez l'expérience des outils d'écriture Apple pour l'ensemble de l'appareil.

• Contrôlez l'expérience Apple Writing uniquement dans les applications de productivité sécurisées BlackBerry, permettant ainsi à l'utilisateur de profiter des nouvelles fonctionnalités pour ses applications personnelles.

Aujourd'hui et regard vers l'avenir

Dans le cadre de mes fonctions, je rencontre des clients qui ont des besoins très divers en matière de sécurité liée à l'utilisation de l'IA sur les appareils mobiles. Les clients sont souvent moins inquiets lorsqu'ils utilisent le traitement local, car leurs données ne quittent pas l'appareil mobile. Cependant, les données ne doivent pas être déplacées à l'intérieur de l'appareil, et tout traitement local doit être éphémère, comme c'est le cas avec la mémoire de l'appareil (RAM), par exemple. En général, les clients souhaitent avant tout savoir quand les données peuvent quitter leurs appareils mobiles et comment elles sont traitées dans ce cas.

L'approche BlackBerry en matière de sécurité des appareils mobiles repose sur le choix et le contrôle pour nos clients. Nous offrons à nos clients la flexibilité nécessaire pour mettre en œuvre différents niveaux de contrôle en fonction de leurs besoins variés en matière de sécurité et de conformité. Nos outils aident les entreprises à trouver le juste équilibre entre sécurité, convivialité et productivité.

Alors que l'écosystème Apple gagne en confiance dans l'utilisation de l'intelligence Apple, BlackBerry, pionnier dans l'utilisation de l'IA/ML, sera à l'avant-garde, alimentant les flux de travail productifs de nouvelle génération axés sur l'application sécurisée de messagerie électronique et de productivité BlackBerry Work le navigateur d'entreprise fiable et sécurisé BlackBerry Access. 

Lectures complémentaires

• Webinaire : Rapport sur les menaces mondiales de septembre 2024