Accueil
La CNIL italienne, connue sous le nom de « Garante », a infligé une amende de 5 millions d’euros à Luka Inc, la start-up américaine derrière le chatbot IA Replika. Cette sanction fait suite à des violations des règles européennes sur la protection des données personnelles (RGPD). Après les cas de ChatGPT et DeepSeek, Replika devient le dernier outil d’intelligence artificielle à faire face aux autorités italiennes.
Replika, lancé en 2017 et amélioré par l’IA par la suite, est présenté comme un compagnon virtuel visant à améliorer le bien-être des utilisateurs. Le chatbot peut adopter plusieurs rôles : confident, thérapeute ou même partenaire amoureux. Cependant, en 2023, l’outil avait déjà suscité la controverse lorsque certains utilisateurs ont déclaré être tombés amoureux de leur avatar virtuel.
La principale critique de la Garante porte sur l'absence de base juridique pour la collecte de données personnelles, une exigence fondamentale du RGPD. En février 2023, Replika n’avait toujours pas défini de cadre légal pour la collecte de ces données. De plus, les règles de confidentialité appliquées par Luka Inc. ont été jugées « inadéquates » par l’autorité italienne.
Un autre manquement majeur concerne la vérification de l’âge des utilisateurs. Malgré l'exclusion théorique des mineurs, aucune mesure concrète n’avait été mise en place pour garantir que seuls les adultes utilisent le service. Cette défaillance persiste encore aujourd’hui, selon le rapport de la Garante.
En parallèle de l’amende, la CNIL italienne a ouvert une nouvelle enquête sur Replika. L’objectif est de vérifier les mesures adoptées par Luka Inc. pour protéger les données lors du développement et de l'entraînement des modèles linguistiques. Les autorités souhaitent également s'assurer de la mise en place de techniques d’anonymisation et de pseudonymisation des données.
La Garante italienne s’impose comme l'une des autorités les plus vigilantes d’Europe en matière de protection des données. En 2024, elle avait déjà condamné OpenAI à une amende de 15 millions d’euros pour des infractions similaires avec ChatGPT, ayant même temporairement interdit l'outil en Italie. Aujourd’hui, c’est Replika qui est dans le viseur pour avoir utilisé les données des utilisateurs sans autorisation préalable.
Cette sanction souligne la vigilance accrue des régulateurs européens face aux dérives des outils d'intelligence artificielle. Pour Luka Inc., l’heure est désormais à la mise en conformité pour éviter de nouvelles sanctions.
Replika, lancé en 2017 et amélioré par l’IA par la suite, est présenté comme un compagnon virtuel visant à améliorer le bien-être des utilisateurs. Le chatbot peut adopter plusieurs rôles : confident, thérapeute ou même partenaire amoureux. Cependant, en 2023, l’outil avait déjà suscité la controverse lorsque certains utilisateurs ont déclaré être tombés amoureux de leur avatar virtuel.
La principale critique de la Garante porte sur l'absence de base juridique pour la collecte de données personnelles, une exigence fondamentale du RGPD. En février 2023, Replika n’avait toujours pas défini de cadre légal pour la collecte de ces données. De plus, les règles de confidentialité appliquées par Luka Inc. ont été jugées « inadéquates » par l’autorité italienne.
Un autre manquement majeur concerne la vérification de l’âge des utilisateurs. Malgré l'exclusion théorique des mineurs, aucune mesure concrète n’avait été mise en place pour garantir que seuls les adultes utilisent le service. Cette défaillance persiste encore aujourd’hui, selon le rapport de la Garante.
En parallèle de l’amende, la CNIL italienne a ouvert une nouvelle enquête sur Replika. L’objectif est de vérifier les mesures adoptées par Luka Inc. pour protéger les données lors du développement et de l'entraînement des modèles linguistiques. Les autorités souhaitent également s'assurer de la mise en place de techniques d’anonymisation et de pseudonymisation des données.
La Garante italienne s’impose comme l'une des autorités les plus vigilantes d’Europe en matière de protection des données. En 2024, elle avait déjà condamné OpenAI à une amende de 15 millions d’euros pour des infractions similaires avec ChatGPT, ayant même temporairement interdit l'outil en Italie. Aujourd’hui, c’est Replika qui est dans le viseur pour avoir utilisé les données des utilisateurs sans autorisation préalable.
Cette sanction souligne la vigilance accrue des régulateurs européens face aux dérives des outils d'intelligence artificielle. Pour Luka Inc., l’heure est désormais à la mise en conformité pour éviter de nouvelles sanctions.
RCS : Deux récompenses pour Cloud Media lors des cas d’Or du Digital Retail
