La Comisión Federal de Comercio de los Estados Unidos (FTC, por sus siglas en inglés) ha comenzado a aceptar presentaciones para su Desafío de Clonación de Voz, un concurso público con un premio máximo de $25,000 para ideas que protejan a los consumidores del peligro de la clonación de voz habilitada por IA para actividades fraudulentas.
El Desafío se anunció a mediados de noviembre en un esfuerzo por encontrar formas de contrarrestar el mal uso de la tecnología de clonación de voz a medida que se vuelve más sofisticada debido a la mejora de la conversión de texto a voz con la ayuda de la inteligencia artificial.
La IA se puede utilizar para clonar la voz de alguien analizando un clip de audio del objetivo hablando para extraer características vocales únicas y luego utilizar los datos de entrenamiento para generar un nuevo habla.
Aunque la clonación de voz tiene usos legítimos, como servicios personalizados de texto a voz y herramientas de asistencia para personas con discapacidades, los actores de amenazas también pueden usarla para actividades fraudulentas como phishing de voz, ingeniería social y otros tipos de estafas basadas en voz.
Al hacerse pasar por la voz de alguien familiar para el objetivo, como un miembro de la familia o una celebridad, los actores maliciosos pueden engañar fácilmente a las personas para que crean las afirmaciones hechas en una llamada o mensaje de voz.
A través del Desafío de Clonación de Voz, la FTC tiene como objetivo encontrar una solución que pueda identificar casos de clonación de voz con la ayuda de IA generativa. La agencia lo llama «un desafío exploratorio» que podría proporcionar una dirección para el esfuerzo de mitigación de riesgos.
La propuesta ganadora recibirá $25,000 y la finalista recibirá $4,000. Hay hasta tres menciones honoríficas, cada una otorgada con $2,000.
El 2 de enero, la agencia comenzó a aceptar presentaciones a través de este portal y recibirá ideas durante 10 días, hasta el 12 de enero a las 08:00 PM EST.
Las presentaciones deben incluir una descripción general de una página de la propuesta y una descripción detallada de hasta 10 páginas. Los participantes también pueden incluir un video para mostrar cómo funciona su idea.
Todas las presentaciones serán juzgadas en función de su viabilidad práctica, su impacto en la responsabilidad corporativa y la carga sobre el consumidor, y su resistencia a los rápidos avances tecnológicos en el campo.
En caso de que el desafío no produzca ideas de defensa efectivas, la FTC señala que el esfuerzo servirá como una alerta temprana para los responsables políticos y destacaría la necesidad de regulaciones más estrictas sobre el uso de la tecnología de IA.
Fuente: <https://www.bleepingcomputer.com
