ChatGPT ahora puede imitar voces sin autorización de los usuarios OpenAI reconoció el problema y aseguró que ya está trabajando para mitigar los riesgos para los usuarios.

Por Entrepreneur en Español

NurPhoto | Getty Images

OpenAI presentó un informe que detalla los riesgos asociados con su último modelo de lenguaje, GPT-4o, según información publicada por The Verge.

Este reporte, conocido como System Card, destaca los avances técnicos logrados con la nueva versión del modelo, pero también alerta sobre algunos riesgos, especialmente en lo relacionado con la imitación de voces.

Una de las situaciones que más preocupación ha generado es la capacidad del Modo de Voz Avanzado de GPT-4o para imitar voces humanas sin el consentimiento de los usuarios.

Esta función, diseñada para mejorar la experiencia del usuario permitiendo la interacción con ChatGPT mediante comandos de voz, mostró durante las pruebas que el modelo podía replicar la voz de un usuario de manera casi exacta, incluso sin haberlo solicitado.

Ars Technica, un medio especializado en tecnología, documentó un caso durante las pruebas en el que un usuario, tras emitir un comando de voz acompañado de un enfático "¡No!", recibió una respuesta de ChatGPT que emulaba su voz de manera alarmantemente precisa.

El informe de OpenAI también advirtió sobre la capacidad de GPT-4o para generar no solo voces humanas, sino también efectos de sonido y música.

Relacionado: OpenAI suspende el uso de una de las voces de GPT-4o por su parecido a la de Scarlett Johansson

Sin embargo, OpenAI ha implementado medidas para mitigar estos riesgos. Según el informe, el riesgo de replicación involuntaria de voces es "mínimo" gracias a las protecciones integradas en el sistema.

Además, la compañía ha restringido la capacidad del modelo para generar voces, limitándola a aquellas creadas en colaboración con actores de voz profesionales. Esta decisión busca reducir las posibilidades de que el sistema imite voces sin autorización.

Esta situación, calificada como de mediano riesgo por OpenAI, muestra cómo los avances en inteligencia artificial pueden mejorar diversas industrias, pero también generan problemas y preocupaciones que, en algunos casos, parecen estar fuera del control humano.

Relacionado: Los deepfakes acechan en 2024. Así es cómo abordar el creciente panorama de amenazas de la IA
Entrepreneur en Español

Entrepreneur Staff

Noticias

¿Qué pasa con TikTok? Te explicamos por qué la red social podría dejar de operar en Estados Unidos a partir del próximo domingo

La red social enfrenta una posible prohibición en Estados Unidos por preocupaciones de seguridad nacional. La medida obligaría a ByteDance a vender la plataforma a una empresa estadounidense o dejar de operar en el país, afectando a millones de usuarios y creadores de contenido.

Emprendedores

10 grandes frases sobre el poder de las metas

Establecer metas es el primer paso para lograr algo significativo.

Iniciar un negocio

63 ideas de pequeños negocios para iniciar en 2025

Hemos elaborado una lista con las mejores y más rentables ideas de pequeños negocios para que los emprendedores las consideren en 2025.

Noticias

14 maneras fáciles de ganar dinero extra en casa

Un ingreso adicional se siente como ser rico si ya tienes un trabajo diario para cubrir las deudas.

Emprendedores

25 frases inspiradoras para iniciar el 2025

Con cada desafío, hay una lección por aprender. Prepárate para enfrentar el año nuevo con estas 25 frases que te motivarán a crecer, a creer en ti mismo y a nunca rendirte.

Finanzas

7 formas rápidas de ganar dinero invirtiendo $ 1,000

Si eres astuto, puedes convertir mil dólares en aún más dinero. Así es cómo.