Robô interage com usuários de maneira complexa e convincente, mas ferramenta pode perpetuar preconceitos e espalhar desinformação
Imagine se a Siri do seu celular pudesse escrever uma redação para a faculdade ou a Alexa pudesse elaborar uma crítica de filme no estilo de Shakespeare.
A empresa OpenAI abriu o acesso ao ChatGPT, um chatbot com tecnologia de inteligência artificial (IA) que interage com os usuários de uma maneira assustadoramente convincente e conversacional. Sua capacidade de fornecer respostas longas, ponderadas e completas a perguntas e solicitações mesmo que imprecisas, surpreendeu os usuários, entre eles acadêmicos e da indústria de tecnologia.
A ferramenta rapidamente se tornou viral. Já na primeira semana, o cofundador da Open AI, Sam Altman, um importante investidor do Vale do Silício, nos Estados Unidos, disse no Twitter que o ChatGPT ultrapassou um milhão de usuários. O robô também chamou a atenção de alguns líderes tecnológicos proeminentes, como o CEO da Box, Aaron Levie.
“Há um certo sentimento que acontece quando uma nova tecnologia ajusta seu pensamento sobre computação. O Google fez isso. A Firefox fez isso. A AWS fez isso. O iPhone fez isso. A OpenAI está fazendo isso com o ChatGPT”, disse Levie no Twitter.
Mas, como acontece com outras ferramentas baseadas em inteligência artificial, esta também apresenta possíveis preocupações, inclusive sobre como poderia interromper as indústrias criativas, perpetuar preconceitos e espalhar desinformação.
O que é o ChatGPT?
O ChatGPT é um grande modelo de linguagem treinado em um enorme tesouro de informações armazenadas online para criar suas respostas. Ele vem da mesma empresa por trás do DALL-E, que gera uma gama aparentemente ilimitada de imagens em resposta às solicitações dos usuários. É também a próxima iteração do gerador de texto GPT-3.
Depois de se inscrever no ChatGPT, os usuários podem solicitar ao sistema de IA que responda a uma série de perguntas, como “Quem foi o presidente dos Estados Unidos em 1955” ou resumir conceitos difíceis de forma que um aluno da segunda série possa entender. Ele ainda aborda questões abertas, como “Qual é o sentido da vida?” ou “O que devo vestir se estiver 40 graus hoje?”.
“Depende das atividades que você planeja fazer. Se você planeja sair, use uma jaqueta ou suéter leve, calças compridas e sapatos fechados”, respondeu o ChatGPT. “Se você planeja ficar dentro de casa, pode usar uma camiseta e jeans ou outra roupa confortável”.
Mas alguns usuários são muito criativos.
Como as pessoas estão usando a ferramenta
Uma pessoa pediu ao chatbot para reescrever o hit dos anos 90, “Baby Got Back”, no estilo de “The Canterbury Tales”; outro escreveu uma carta para remover uma conta inválida de um relatório de crédito (em vez de usar um advogado de reparação de crédito).
Outros exemplos pitorescos foram pedir dicas de decoração de casa inspiradas em contos de fadas e a resposta sobre uma pergunta de uma prova de nível universitário (a ferramenta respondeu com uma redação de 5 parágrafos sobre o livro O Morro dos Ventos Uivantes).
https://twitter.com/GuyP/status/1598020781065527296?s=20&t=B_TqWrvc-5joCjBR9FEfCQ
Em uma postagem no blog, a OpenAI disse que “o formato possibilita que a ferramenta responda a perguntas seguidas, admita seus erros, desafie premissas incorretas e rejeite solicitações inadequadas”.
Uma semana após o lançamento, a página para experimentar o ChatGPT estava fora do ar, citando “demanda excepcionalmente alta”. “Aguente firme enquanto trabalhamos para dimensionar nossos sistemas”, dizia a mensagem. Agora parece estar online novamente.
Possíveis problemas
Embora o ChatGPT tenha respondido com sucesso a uma variedade de perguntas enviadas pela CNN, algumas respostas foram visivelmente erradas.
Na verdade, o Stack Overflow – uma plataforma de perguntas e respostas para codificadores e programadores – baniu temporariamente os usuários de compartilhar informações do ChatGPT, observando que é “substancialmente prejudicial ao site e aos usuários que estão perguntando ou procurando respostas corretas”.
Além da questão de espalhar informações incorretas, a ferramenta também pode ameaçar algumas profissões escritas, ser usada para explicar conceitos problemáticos e, como acontece com todas as ferramentas de inteligência artificial, perpetuar vieses com base no conjunto de dados em que é treinada. Digitar um prompt envolvendo um CEO, por exemplo, pode gerar uma resposta assumindo que o indivíduo é branco e do sexo masculino.
“Embora tenhamos feito esforços para que o modelo recuse solicitações inapropriadas, às vezes ele responde a instruções prejudiciais ou exibe comportamento tendencioso”, disse a Open AI em seu site.
“Estamos usando a Moderation API para avisar ou bloquear certos tipos de conteúdo inseguro, mas esperamos que haja alguns falsos negativos e positivos por enquanto. Estamos ansiosos para coletar feedback do usuário para ajudar nosso trabalho contínuo de melhoria do sistema”.
Ainda assim, Lian Jye Su, diretor de pesquisa da empresa de pesquisa de mercado ABI Research, alerta que o chatbot está operando “sem uma compreensão contextual da linguagem”.
“É muito fácil para a ferramenta dar respostas plausíveis, mas incorretas ou sem sentido”, disse ele. “Ela adivinhou quando deveria esclarecer e às vezes respondeu a instruções prejudiciais ou exibiu um comportamento tendencioso. Também carece de compreensão regional e específica do país”.
Ao mesmo tempo, no entanto, fornece um vislumbre de como as empresas podem capitalizar no desenvolvimento de assistência virtual mais robusta, bem como soluções de atendimento ao paciente e ao cliente.
Embora a ferramenta DALL-E seja gratuita, ela limita o número de solicitações que um usuário pode fazer antes de pagar. Quando Elon Musk, cofundador da OpenAI, perguntou recentemente a Altman no Twitter sobre o custo médio por bate-papo do ChatGPT, Altman disse: “Teremos que monetizá-lo de alguma forma em algum momento; os custos de computação são de chorar”.(CNN)+
