Les technologies actuelles de l’intelligence artificielle reposent sur une surveillance de masse, devenue le “moteur économique du secteur technologique”.
C’est ce que met en garde Meredith Whittaker, présidente de la plateforme de communication Signal, lors d’une interview avec l’Agence France-Presse au salon VivaTech à Paris.
Whittaker, qui a travaillé pendant plus de dix ans sur les questions d’éthique liées à l’intelligence artificielle chez Google avant de quitter l’entreprise, souligne que l’IA “nécessite une quantité énorme de données” et les utilise “à chaque fois pour créer du contenu”.
“Ces données, qui peuvent être complètement erronées, ont la capacité de diriger nos vies d’une manière qui devrait nous inquiéter”, ajoute-t-elle.
Pour l’experte, le danger de l’IA réside dans la croyance en ses “capacités supérieures à celles des humains”, ce qui n’est pas vrai, et dans le fait de ne pas voir que cette technologie est actuellement entre les mains de “quelques entreprises technologiques américaines qui contrôlent l’IA et les infrastructures qui la régissent”.
“Ce résultat découle du modèle économique de surveillance de masse qui a émergé dans les années 1990 aux États-Unis et est devenu le moteur économique du secteur technologique”, explique Whittaker. “Nous accueillons ces entreprises dans nos gouvernements, nos institutions essentielles et même dans nos vies, sans en être conscients.”
Elle indique que l’IA est “un outil entre les mains de ceux qui ont accès au capital, et est généralement testée sur ceux qui ont moins de pouvoir”, ajoutant que “la plupart d’entre nous n’utilisent pas l’IA, mais nos employeurs et les autorités l’utilisent contre nous.”
Dans ce contexte, l’application Signal, lancée en 2014 et financée par des dons sans campagne marketing, a gagné en popularité.
Cette application américaine est une référence en matière de sécurité des données, ne nécessitant que le partage du numéro de téléphone de l’utilisateur, avec des messages chiffrés via un protocole développé en interne et des données d’identification limitées.
La popularité de Signal a augmenté début 2021 lorsque son concurrent WhatsApp a annoncé qu’il partagerait davantage de données avec sa société mère, Facebook. Signal, utilisé par environ 40 millions de personnes selon les experts, reste loin derrière WhatsApp avec ses plus de deux milliards d’utilisateurs ou Messenger avec environ un milliard d’utilisateurs.
Cependant, Whittaker estime que l’Europe ne devrait pas essayer de rivaliser avec les États-Unis ou la Chine dans la course à l’intelligence artificielle “à travers des algorithmes qui renforcent les systèmes d’inégalité et de contrôle”.
Elle appelle les responsables européens à “réinventer une technologie capable de servir des sociétés plus démocratiques et de respecter davantage les droits”.
“Signal est un bon exemple et montre que nous pouvons construire une technologie différente qui rejette le modèle économique basé sur la surveillance”, conclut-elle.
Source: Al Jazeera Net