A capacidade do ChatGPT de se transformar perfeitamente em um camaleão cultural foi desarmante e marcou a primeira vez que quase senti como se não estivesse apenas falando com uma máquina. Até me peguei respondendo como se fosse uma pessoa, dizendo à ferramenta “desculpe interromper” e “muito obrigado”.
Não sou só eu. O domínio dos dialetos falados no modo de voz avançado é desconcertante. O fundador de uma start-up jamaicana compartilhou um clipe dele mesmo conversando com o ChatGPT no Patois local. Vídeos inundaram o TikTok mostrando o aplicativo falando em tudo, desde singlês até inglês vernáculo afro-americano.
A capacidade do ChatGPT de se comunicar em dialetos abre as comportas para que mais pessoas interajam e antropomorfizem a ferramenta. Tudo pode parecer enigmático, mas qualquer pessoa que tenha viajado para longe de casa sabe que a língua e a cultura ultrapassam barreiras. Ouvir alguém que fala como você, em qualquer idioma, cria instantaneamente um sentimento de parentesco.
Durante a maior parte da era da Internet, esse tipo de nuance cultural era algo que os computadores ainda não conseguiam capturar, marcando um dos maiores diferenciais entre amigo e máquina.
Mas existem consequências potenciais no uso de dialetos com IA. UM Natureza Um estudo publicado em agosto descobriu que grandes modelos linguísticos geram “decisões secretamente racistas” sobre pessoas com base em seus dialetos em um experimento baseado em texto. Os investigadores descobriram que é mais provável que a IA sugira que os utilizadores do inglês afro-americano “recebam empregos de menos prestígio, sejam condenados por crimes e sejam sentenciados à morte” em comparação com os falantes do inglês americano padrão.
Separadamente, a OpenAI reconheceu como as capacidades de áudio, especificamente, do seu modelo mais recente podem acarretar riscos que ainda não compreendemos totalmente, como a criação de laços fortes entre as pessoas ou a permissão de “confiança cada vez mais mal calibrada” em modelos de IA.
A empresa notou que os usuários aproveitam os recursos de áudio usando uma linguagem que pode indicar que sentem conexões com o modelo, dizendo que mais estudos internos e independentes precisam ser feitos para “definir mais concretamente esta área de risco”. E a razão pela qual o chatbot agora parece tão humano é, em parte, porque suas nove vozes são alimentadas por atores reais.
Carregando
OpenAI tem uma série de proteções. O ChatGPT respondeu a algumas perguntas que fiz mudando de assunto, dizendo que suas diretrizes não permitiriam que ele respondesse. Não pode cantar, personificar pessoas ou ser excessivamente paquerador. A versão atual também não traduzia ao vivo algo diferente da minha própria voz, como um discurso ou vídeo, possivelmente para evitar um maior escrutínio de direitos autorais. Observadores mais atentos criticaram sua proficiência em certas línguas e dialetos. Devido a obstáculos regulatórios, o modo de voz avançado ainda não está disponível na União Europeia e em alguns outros mercados.
Existem enormes vantagens potenciais na nova capacidade do ChatGPT de quebrar barreiras linguísticas, tanto para empresas como para pessoas. Mas, por mais hipnotizado que estivesse na semana passada, de vez em quando recebia uma resposta que me lembrava que é apenas um aplicativo – não deveria atribuir muita responsabilidade a ele ou vê-lo como um companheiro humano. Não pude deixar de me preocupar com um futuro em que as pessoas esquecerão isso.
Bloomberg
Receba notícias e análises sobre tecnologia, gadgets e jogos em nosso boletim informativo de tecnologia toda sexta-feira. Inscreva-se aqui.
