VALL-E 2: ¿Una revolución o una amenaza? La inteligencia artificial que clona voces

VALL-E 2 de Microsoft ha alcanzado un nuevo hito en la inteligencia artificial al recrear voces humanas con precisión sorprendente usando solo unos segundos de audio. Según la propia compañía, «logra por primera vez el rendimiento TTS de disparo cero de paridad humana«.

Esto significa que las métricas de robustez, naturalidad y similitud de VALL-E 2 superan a las de las muestras de voz reales, lo que permite generar habla precisa y natural en la voz exacta del hablante original, comparable al rendimiento humano.

Sin embargo, a pesar de su impresionante potencial, esta tecnología también genera recelo. La capacidad de imitar la voz humana con tanta precisión abre la puerta a posibles usos indebidos, como la falsificación de identidad o la suplantación de personas. Por este motivo, Microsoft ha decidido mantener VALL-E 2 como «puramente un proyecto de investigación» y no permitir que el público tenga acceso a ella por el momento.

En su página web, Microsoft advierte sobre los riesgos potenciales del uso indebido del modelo, como la falsificación de la identificación de voz o hacerse pasar por un hablante específico. La empresa reitera que «no tiene planes de incorporar VALL-E 2 en un producto o ampliar el acceso al público» hasta que se hayan evaluado y mitigado adecuadamente estos riesgos.

La noticia del desarrollo de VALL-E 2 ha generado un gran debate sobre las implicaciones éticas de la inteligencia artificial. Algunos expertos advierten sobre el potencial de esta tecnología para ser utilizada con fines maliciosos, como la difusión de información falsa o la creación de deepfakes cada vez más sofisticados.

Otros, sin embargo, creen que VALL-E 2 también tiene un gran potencial para el bien. Por ejemplo, podría ser utilizada para ayudar a personas que han perdido la voz o para crear experiencias de audio más personalizadas e inmersivas.

El debate sobre VALL-E 2 probablemente continuará durante algún tiempo. Es importante recordar que la inteligencia artificial es una herramienta poderosa que puede ser utilizada para el bien o para el mal. Depende de nosotros, como sociedad, asegurarnos de que se utilice de manera responsable y ética.