Une application d’achat « alimentée par l’IA » aurait été alimentée par l’homme
Vous avez peut-être parfois plaisanté sur la façon dont les entreprises semblent aujourd'hui se précipiter pour lancer quelque chose, n'importe quoi, qui intègre l'IA, même un tout petit peu, quelque part sous le capot. De cette façon, ils peuvent lancer des campagnes publicitaires éblouissantes qui donnent l'impression que le produit est à la pointe de la technologie, alimenté par cette nouvelle technologie dont tout le monde parle.
Mais l'un des fondateurs de la technologie, Albert Saniger, est maintenant dans une situation délicate après avoir été accusé de fausses déclarations sur la technologie de son entreprise après qu'il a été découvert que son application d'achat universelle « infusée d'IA » était en réalité alimentée par un groupe de personnes dans un centre d'appels aux Philippines.
Saniger, le fondateur et ancien PDG de Nate, âgé de 35 ans, a été inculpé cette semaine pour avoir fraudé les investisseurs qui ont financé l'application de shopping, selon un communiqué du ministère américain de la Justice.
L'application de shopping Nate a été lancée il y a sept ans et a levé plus de 50 millions de dollars auprès de divers investisseurs. Saniger aurait fraudé des investisseurs en faisant des allégations sur les prétendues capacités d'IA de son entreprise tout en employant secrètement des travailleurs pour créer l'illusion d'une automatisation technologique.
Le fondateur de Nate a commercialisé le logiciel comme une application de panier d'achat universelle qui simplifiait l'expérience de commerce électronique en permettant aux clients d'éviter le processus de paiement sur les sites Web de vente au détail, Nate étant censé utiliser l'IA pour naviguer de manière autonome dans le processus de paiement, en le complétant au nom de l'acheteur en un seul clic.
Cela signifiait que si un acheteur trouvait, par exemple, une paire de chaussures qu'il souhaitait acheter sur un site de commerce électronique particulier, il pouvait le faire en ouvrant l'application Nate et en cliquant sur « acheter ». L'application Nate était censée s'occuper du reste du processus de paiement en utilisant l'IA pour sélectionner la taille appropriée, saisir les informations de facturation et d'expédition et confirmer l'achat.
Le bureau du procureur américain a déclaré que même si Saniger avait effectivement acquis la technologie d'IA auprès d'un tiers et embauché une équipe de data scientists pour la développer, l'IA de Nate n'avait jamais atteint la capacité d'effectuer systématiquement des achats en ligne. Le fondateur de la technologie aurait caché cela aux investisseurs.
Plutôt que de déployer l’IA, Nate s’est appuyé sur des équipes de travailleurs humains pour traiter manuellement les transactions en secret, imitant les actions que les utilisateurs pensaient être effectuées par l’IA.
Saniger est accusé d'avoir utilisé des « centaines » de sous-traitants situés dans un centre d'appels aux Philippines pour finaliser manuellement les achats effectués via l'application Nate, même si pendant une période de vacances chargée, l'équipe d'ingénierie de l'entreprise a également développé des robots pour automatiser certaines transactions.
Le procureur américain par intérim Matthew Podolsky a déclaré à propos du crime présumé : « Ce type de tromperie non seulement victimise des investisseurs innocents, mais détourne les capitaux des startups légitimes, rend les investisseurs sceptiques quant aux véritables avancées et, en fin de compte, entrave le progrès du développement de l’IA. »
En 2023, la Federal Trade Commission des États-Unis a demandé aux entreprises de surveiller leurs affirmations concernant l’utilisation de l’IA, les avertissant d’éviter toute exagération et toute promesse excessive lorsqu’il s’agit d’annoncer les capacités d’IA associées à leurs produits.