OpenAI ha estado muy activa los últimos años, primero con su famoso chatbot de IA generativa ChatGPT, y recientemente con su asombroso creador de videos Sora. Ahora tiene una nueva herramienta de inteligencia artificial para presumir. Voice Engine, con la que, aseguran, puede clonar la voz de cualquier persona a partir de sólo 15 segundos de audio.
Según explica OpenAI, Voice Engine es una herramienta de clonación de voz, que permite generar una copia sintética de una voz a partir de una muestra de 15 segundos. Esta tecnología se basa en un modelo de inteligencia artificial generativa que analiza tanto audio como texto para crear una voz coincidente sin la necesidad de un modelo personalizado.
Una vez que se entrene la voz a partir de una muestra de 15 segundos, podremos hacer que lea cualquier texto de una manera “emotiva y realista”. OpenAI menciona que podría usarse con fines educativos, para traducir podcasts a nuevos idiomas, para llegar a comunidades remotas o para apoyar a personas con alguna discapacidad.
Aunque esta tecnología promete avances emocionantes, también plantea preguntas sobre su ética y seguridad.
¿Es ético y legal clonar la voz con inteligencia artificial?
El uso de la clonación de voz plantea una serie de preocupaciones éticas y legales. Por un lado, existe el riesgo de que esta tecnología pueda ser utilizada para generar deepfakes maliciosos para causar daño a personas y sociedades.
OpenAI está tomando medidas para mitigar estos riesgos, cómo marcar las copias generadas con identificadores inaudibles y limitar el acceso a un grupo selecto de desarrolladores. Sin embargo, sigue habiendo preocupaciones sobre el uso indebido de la tecnología y la falta de regulación en este tipo de iniciativas.
Te recomendamos: Microsoft y OpenAI crearán una supercomputadora de 100,000 millones de dólares
Las preocupaciones sobre el mal uso son la razón principal por la que Voice Engine solo se encuentra en una vista previa limitada por ahora. OpenAI dice que quiere investigar más sobre cómo puede proteger herramientas como esta, ya que podrían ser utilizadas para difundir información errónea y copiar voces sin consentimiento.
Hay que recordar que este año hay elecciones tanto en México como en Estados Unidos, y una herramienta como esta podría ser peligrosa. Es una preocupación que cada vez tenemos más contenido generado por inteligencia artificial, lo que hace más difícil saber en qué confiar.
OpenAI no tiene fecha de lanzamiento para Voice Engine
A medida que la tecnología de clonación de voz continúa desarrollándose, es importante abordar los desafíos éticos y legales que surgen en el camino. OpenAI asegura que están trabajando en colaboración con expertos en seguridad y ética para garantizar que su tecnología se implemente de manera responsable.
La clonación de voz es una tecnología fascinante que ofrece una amplia gama de posibilidades y desafíos. Si se utiliza de manera responsable, puede tener un impacto significativo en áreas como la accesibilidad, la atención médica y el entretenimiento. Sin embargo, también plantea preocupaciones importantes sobre la privacidad, la seguridad y la ética.
