"Las llamadas automáticas con voces de IA se regularán según la Ley de Protección al Consumidor Telefónico."
La Comisión Federal de Comunicaciones planea votar para ilegalizar el uso de voces generadas por IA en llamadas automáticas. La FCC dijo que las voces generadas por IA en llamadas automáticas han "intensificado durante los últimos años" y tienen "el potencial de confundir a los consumidores con información errónea al imitar las voces de celebridades, candidatos políticos y familiares cercanos".
La decisión declaratoria propuesta por la presidenta de la FCC, Jessica Rosenworcel, dictaminaría que "las llamadas realizadas con voces generadas por IA son voces 'artificiales' según la Ley de Protección al Consumidor Telefónico (TCPA), lo que haría ilegal la tecnología de clonación de voz utilizada en estafas comunes de llamadas automáticas dirigidas a consumidores", La comisión anunció ayer . Según se informa, los comisionados votarán sobre la propuesta en las próximas semanas. Una reciente llamada automática contra la votación utilizó una versión generada artificialmente de la voz del presidente Joe Biden. Las llamadas decían a los demócratas que no votaran en las elecciones primarias presidenciales de New Hampshire.
- Puede leer también | Inteligencia Artificial: En los últimos seis meses, más de 40 modelos han obtenido aprobación para su uso público en China.
Un análisis de la empresa Pindrop concluyó que la voz artificial de Biden fue creada utilizando un motor de conversión de texto a voz ofrecido por ElevenLabs . Esa conclusión aparentemente fue confirmada por ElevenLabs, que supuestamente suspendió la cuenta del usuario que creó el deepfake.
El fallo de la FCC podría ayudar a los estados a tomar medidas enérgicas
La TCPA, una ley estadounidense de 1991, prohíbe el uso de voces artificiales o pregrabadas en la mayoría de las llamadas que no son de emergencia "sin el previo consentimiento expreso de la persona llamada". La FCC es responsable de redactar las normas para implementar la ley, lo que se castiga con multas. Como señaló ayer la FCC, la TCPA "restringe la realización de llamadas de telemercadeo y el uso de sistemas de marcación telefónica automática y mensajes de voz artificiales o pregrabados". Los vendedores telefónicos deben "obtener el consentimiento previo y expreso por escrito de los consumidores antes de realizarles llamadas automáticas. Si se promulga con éxito, esta resolución declaratoria garantizaría que las llamadas de voz generadas por IA también cumplan con esos mismos estándares".
- Puede leer también | IA en 2024: Estrategias y Presupuestos para Desarrollo de Software Impulsado por la Inteligencia Artificial en Empresas Emergentes.
La FCC ha estado pensando en revisar sus reglas para tener en cuenta la inteligencia artificial durante al menos unos meses. En noviembre de 2023, lanzó una investigación sobre el impacto de la IA en las llamadas automáticas y los textos automáticos.
Rosenworcel dijo que su fallo propuesto "reconocerá esta tecnología emergente como ilegal según la ley existente, brindando a nuestros socios en las oficinas de los fiscales generales estatales en todo el país nuevas herramientas que pueden usar para combatir estas estafas y proteger a los consumidores.
"La clonación de voz e imágenes generadas por IA ya están sembrando confusión al engañar a los consumidores haciéndoles pensar que las estafas y los fraudes son legítimos", afirmó Rosenworcel. "No importa qué celebridad o político prefieras, o cuál sea tu relación con tus familiares cuando piden ayuda, es posible que todos seamos el objetivo de estas llamadas falsas".