OpenAI advierte que podrías enamorarte de su asistente de voz GPT-4o

Desde OpenAI van a estudiar e investigar más a fondo el potencial de la confianza emocional ante el riesgo de que pueda generar una dependencia excesiva. 

El GPT-4o tiene cualidades para poder crear con los usuarios un vínculo emocional. Esta es una de las frases que se puede ver en el último informe que OpenAI llevó a cabo antes de lanzar GPT-4o. Este informe ofrece detalles como la evaluación de riesgos y las investigaciones sobre las fortalezas de este modelo.

En él menciona la posibilidad de que se le atribuyan comportamientos y características humanas y que los usuarios puedan generar un lazo emocional con el chatbot.

Los usuarios podrían enamorarse de la voz de GPT-4o

Recordemos que este modelo de OpenAI es el primero de la compañía entrenado con voz, además de datos de texto e imágenes. Antes de su debut, se utilizó a un grupo externo de expertos en seguridad para encontrar debilidades y riesgos clave en el modelo. Examinaron riesgos como la posibilidad de que creara clones no autorizados de la voz de alguien, contenido erótico y violento.

iPhone Cae En Pleno Vuelo Y Sigue Funcionando Tras Su AterrizajeiPhone Cae En Pleno Vuelo Y Sigue Funcionando Tras Su Aterrizaje

Estos resultados se están publicando y señalan que algunos usuarios han utilizado un lenguaje que mostraba signos de un vínculo con ChatGPT e intimar con un chatbot de inteligencia artificial tendría efectos negativos en el largo plazo. En palabras de la compañía, afirman que al formar relaciones sociales con la IA, los humanos reducirían su necesidad de interacción con otras personas, lo que podría afectar a las relaciones saludables.

Los investigadores encontraron que GPT-4o presentaba un riesgo medio y reflejaron cuatro categorías generales: ciberseguridad, amenazas biológicas, persuasión y autonomía del modelo. Todas ellas se consideraron de bajo riesgo menos la persuasión, donde los investigadores vieron que algunas muestras de escritura podrían ser mejores para influir en las opiniones de los lectores que el texto escrito por humanos.

FUENTE: 20MIN