La Federal Trade Commission des États-Unis examinera la montée de la technologie de l'IA sous tous les angles, a déclaré la présidente de la FTC, Lina Khan, lors de l'événement StrictlyVC de TechCrunch à Washington, D.C., le mardi. Cependant, l'objectif de l'agence n'est pas d'écraser les startups qui cherchent à concourir dans cet espace avec une réglementation accrue, a déclaré Khan.
« Nous voulons nous assurer que les artères du commerce sont ouvertes, que les voies du commerce sont ouvertes, et si vous avez une bonne idée, si vous êtes capable de la commercialiser - s'il y a de l'intérêt sur le marché - que vous avez une chance équitable de concourir », a déclaré Khan à l'audience. « Votre destin est lié à la force de votre idée et de vos talents en affaires, plutôt qu'à la question de savoir si vous menacez l'un des grands acteurs qui pourraient vous écraser. »
Cependant, la FTC ne ignore pas la technologie ni ses dommages potentiels. En fait, elle constate déjà une augmentation des cas de plaintes de consommateurs dans certains domaines, comme la fraude à la clonage vocal, a déclaré Khan.
Ce type de technologie a récemment fait la une des journaux lorsque OpenAI a publié puis retiré un ChatGPT vocal qui ressemblait à l'actrice Scarlett Johansson, qui a doublé la voix de l'IA dans le film "Her". L'actrice affirme avoir refusé l'offre d'OpenAI d'enregistrer sa voix pour le chatbot, donc il l'a clonée à la place. (OpenAI affirme avoir simplement utilisé une autre actrice.)
Interrogée sur les domaines de l'IA que la FTC surveillait, Khan a expliqué que c'était tout.
« Nous examinons vraiment tout, des puces au cloud, des modèles aux applications en aval, pour essayer de comprendre ce qui se passe dans chacune de ces couches », a-t-elle déclaré. De plus, l'agence cherche à entendre les « gens sur le terrain » sur ce qu'ils considèrent comme des opportunités et des risques.
La présidente de la FTC @linakhanFTC a souligné l'importance de l'intervention réglementaire pour ouvrir les marchés à l'innovation des startups lors de l'événement d'aujourd'hui à @StrictlyVC pic.twitter.com/VHQAbMylI9
— TechCrunch (@TechCrunch) 11 juin 2024
Bien sûr, le contrôle de l'IA comporte ses défis, malgré le nombre de technologistes que la FTC a embauchés pour aider dans ce domaine. Khan a noté que l'organisation avait reçu plus de 600 candidatures de technologistes cherchant du travail à la FTC, mais n'a pas précisé combien d'entre eux avaient été effectivement embauchés. En tout, cependant, l'agence compte environ 1 300 personnes, a-t-elle déclaré, soit 400 personnes de moins qu'elle n'en avait dans les années 1980, même si l'économie a augmenté de 15 fois.
Avec des dizaines de cas d'antitrust et près d'une centaine du côté de la protection des consommateurs, l'agence se tourne maintenant vers des tactiques innovantes pour l'aider à lutter contre la fraude, notamment dans l'espace de l'IA.
Par exemple, Khan a mentionné le récent défi du clonage vocal de l'agence, où elle a invité le marché et le public à soumettre des idées sur la manière dont une agence comme la FTC serait en mesure de détecter et de surveiller de manière plus en temps réel qu'une communication téléphonique ou vocale est réelle, ou si elle utilise le clonage vocal à des fins frauduleuses. En plus de trouver des idées gagnantes à travers des défis comme celui-ci, la FTC espère également stimuler le marché pour se concentrer davantage sur le développement de mécanismes pour lutter contre la fraude liée à l'IA.
Un autre domaine d'intérêt pour la FTC est la notion de ce que signifie vraiment l'ouverture dans le contexte de l'IA, a expliqué Khan. « Comment nous assurer que ce n'est pas juste un exercice de marketing, mais quand vous regardez les termes c'est vraiment ouvert ? » a-t-elle demandé, ajoutant que l'agence voulait anticiper certaines des dynamiques « ouvertes d'abord, fermées plus tard » qui étaient précédemment observées à l'époque du Web 2.0.
« Je pense qu'il y a juste beaucoup de leçons à tirer, en général, mais je pense surtout que ce moment, alors que nous pensons à certains de ces outils d'IA, est un moment très opportun pour les appliquer », a déclaré Khan.
De plus, l'agence est prête à surveiller l'industrie pour l'hypage de l'IA, où la valeur du produit est exagérée. « Certains de ces outils d'IA pensent être utilisés pour promouvoir, et pour gonfler et exagérer, la valeur de ce qui peut être offert. Nous voulons donc nous assurer que nous contrôlons cela », a noté Khan. « Nous avons déjà eu quelques cas de publicité trompeuse/hypage de l'IA sortir - et c'est un domaine que nous continuons à scruter. »
