Fingir la voz de alguien es cada vez más fácil. La última herramienta de OpenAI requiere solo una muestra de audio de 15 segundos.
La inteligencia artificial nos abre oportunidades increíbles, pero al mismo tiempo plantea enormes amenazas. Hoy en día, Internet está lleno de deepfakes. Incluso fingir la voz de alguien sólo lleva un momento para una persona con conocimientos. Como si eso no fuera suficiente, cada vez es más fácil.
Nueva herramienta OpenAI
OpenAI, que deberías conocer principalmente por Chat-GPT, ha introducido una nueva herramienta llamada Voice Engine. Lo aterrador es que sólo se requiere una muestra de 15 segundos de la voz de alguien para imitarla con éxito.
OpenAI asegura que 15 segundos son suficientes para reproducir la voz de alguien. Después de agregar la muestra adecuada, simplemente ingrese el texto que desea convertir en voz y después de un tiempo sucederá la magia. De repente Messi puede decir que ama al Real Madrid y Elon Musk puede elogiar a Google, Apple y Microsoft.
OpenAI aún no proporciona su herramienta. La empresa es consciente de los riesgos asociados a un mecanismo de falsificación de voz tan sencillo. La empresa quiere iniciar un diálogo sobre el uso responsable de soluciones similares.
Con base en estas conversaciones y los resultados de estas pruebas a pequeña escala, tomaremos una decisión más informada sobre si implementar esta tecnología a gran escala y cómo hacerlo.
– informa OpenAI.
No se trata sólo de estafas, que ya abundan en Internet. OpenAI es consciente de que una solución de este tipo también puede afectar negativamente al trabajo de los actores de voz, que pueden resultar innecesarios.
