La réaction de la FCC à un faux message de Biden

La Federal Communications Commission (FCC) envisage de proscrire l’utilisation de voix générées par l’intelligence artificielle (IA) dans les appels automatisés, suite à un incident impliquant un message trompeur attribué au président Biden. La FCC exprime des préoccupations quant à la technologie de deepfake vocal utilisée pour induire en erreur les consommateurs en imitant les voix de « célébrités, candidats politiques et membres de la famille proche ».

La proposition de la présidente de la FCC, Jessica Rosenworcel, vise à rendre illégale l’utilisation de voix générées par l’IA dans les appels automatisés en vertu de la loi sur la protection des consommateurs par téléphone (TCPA) de 1991. Cette loi régule les appels de télémarketing et impose des restrictions sur l’utilisation de systèmes de numérotation téléphonique automatique ainsi que des messages vocaux artificiels ou préenregistrés. La FCC souhaite étendre ces normes aux voix générées par l’IA, et la proposition doit être soumise au vote des cinq membres de la Commission dans les semaines à venir.

« Le clonage de voix et d’images générés par l’IA sème déjà la confusion en faisant croire aux consommateurs que les escroqueries et les fraudes sont légitimes », a déclaré Jessica Rosenworcel. « Quelle que soit la célébrité ou le politicien que vous privilégiez, ou la relation que vous entretenez avec vos proches lorsqu’ils appellent à l’aide, il est possible que nous soyons tous la cible de ces faux appels. »

Analyse d’un faux message de Biden et actions entreprises

La société de détection de fraude vocale, Pindrop, a examiné le faux message attribué à Biden, découvrant qu’il avait été généré à l’aide d’un moteur de synthèse vocale créé par ElevenLabs. Cette startup utilise l’IA pour reproduire des voix dans plus de deux douzaines de langues. ElevenLabs a confirmé que son logiciel était impliqué dans l’incident du New Hampshire et a pris des mesures en bannissant le compte responsable. Le bureau du procureur général du New Hampshire a également ouvert une enquête sur ces faux appels.

Selon un porte-parole de la FCC, la modification envisagée de la loi conférerait aux procureurs généraux des États de nouveaux pouvoirs pour lutter contre les fraudeurs utilisant l’IA dans les appels automatisés, tout en renforçant la protection des consommateurs.

Lutte continue de la FCC contre les appels automatisés

La FCC mène depuis des années une lutte contre les appels automatisés. En décembre 2022, l’agence a proposé une amende de 300 millions de dollars contre une opération illégale d’appels automatisés qui avait effectué plus de cinq milliards d’appels vers plus de 500 millions de numéros de téléphone au cours de trois mois en 2021. Des amendes totalisant 225 millions de dollars avaient également été infligées pour des appels automatisés trompeurs en 2020.

Le vol d’identité par voix générée par l’IA en hausse

L’utilisation d’IA générative facilite le vol d’argent en imitant les voix des membres de la famille, devenant ainsi une tactique populaire parmi les criminels. Cette tendance à la hausse s’explique par la disponibilité accrue, la baisse des coûts et la sophistication croissante des technologies d’IA générative. La FCC espère que ses nouvelles propositions contribueront à contrer cette menace émergente.