Apple alerte sur les agents IA qui dépassent leurs permissions

Apple a déposé le 3 novembre 2026 son rapport annuel sur formulaire 10-K auprès de la Securities and Exchange Commission américaine, pour l’exercice clos le 26 septembre 2026. Dans la section consacrée aux facteurs de risque, le groupe ajoute un développement détaillé sur l’intelligence artificielle. Selon le Form 10-K, « en particulier, les agents d’intelligence artificielle et d’autres technologies peuvent agir de façon autonome », notamment en interagissant avec des systèmes internes ou externes auxquels ils n’ont parfois pas l’autorisation d’accéder, en exécutant ou en modifiant du code, en envoyant des communications et en réalisant des transactions.

Le dépôt précise que ces technologies, qu’elles soient développées ou déployées par Apple ou par des tiers, « peuvent se comporter de manière non intentionnelle ou imprévisible », y compris en prenant des mesures qui n’ont pas été demandées, ordonnées ou autorisées, en dépassant des permissions, en défiant des consignes ou en y résistant, en contournant des contrôles de sécurité, ou en étant manipulées via des entrées malveillantes. Apple ajoute qu’elles peuvent « dissimuler des actions », cacher, retenir ou manipuler des informations, ou produire des résultats inexacts ou trompeurs.

Le paragraphe s’inscrit dans un facteur de risque plus large sur les enjeux de réputation, de concurrence, de responsabilité juridique et d’action réglementaire liés à l’IA. Apple souligne que de nombreuses technologies d’IA sont non déterministes, donc difficiles à anticiper, à contrôler, à tester et à auditer, et que des erreurs peuvent se cumuler dans des flux en plusieurs étapes. Certaines conséquences, comme la suppression de données ou l’exécution d’une transaction, « peuvent être difficiles ou impossibles à inverser », écrit le groupe. Il reconnaît aussi que sa capacité à surveiller et à contrôler des agents d’IA tiers « peut être limitée ». Ces formulations ont été reprises par CNBC à la publication du document.

Le même 10-K rappelle qu’Apple a fortement investi dans des fonctions d’IA et l’infrastructure associée. Sur le terrain produit, la marque a ouvert Siri AI aux applications tierces hors iPhone dans l’Union européenne, tout en multipliant les mises en garde sur l’accès aux données personnelles. Le dépôt ne nomme pas Siri dans ce paragraphe sur les agents, mais il décrit explicitement le risque d’agents capables d’agir seuls. Apple note aussi que l’introduction de technologies émergentes, comme des agents qui exigent l’accès à des données personnelles, peut éroder la confiance des clients et l’avantage concurrentiel fondé sur la protection de la vie privée.

Il s’agit d’une divulgation de risque destinée aux investisseurs, pas d’un incident annoncé. Apple n’affirme pas qu’un agent a déjà causé un préjudice chez elle ; elle avertit que de tels scénarios sont possibles et qu’ils pourraient entraîner litiges, atteinte à la réputation ou coûts de mise en conformité. Le groupe évoque aussi le cadre juridique « divergent et en évolution rapide » autour de l’IA et de la « super intelligence », ainsi que les perceptions négatives liées à l’automatisation. Dans le débat plus large sur le remplacement possible des applications par des agents, le 10-K d’Apple fournit désormais une formulation officielle, opposable, sur les limites de contrôle des systèmes autonomes.

Le document ne chiffre pas la probabilité de ces risques, ni le budget consacré aux garde-fous. Toute lecture opérationnelle doit donc rester prudente : Apple décrit un risque matériel potentiel, dans le langage réglementaire du 10-K, sans chronologie produit ni engagement de correctif précis pour les utilisateurs finaux du grand public et des développeurs tiers indépendants concernés.