O chatbot de inteligência artificial chamado Grok, desenvolvido pela empresa xAI de Elon Musk, está se tornando uma ferramenta polêmica na plataforma de redes sociais X, anteriormente conhecida como Twitter. Vitalik Buterin, cofundador da Ethereum, comentou que Grok tem contribuído para tornar a plataforma mais favorável à verdade, uma vez que muitas vezes contradiz os usuários que procuram confirmação para suas crenças políticas.
Buterin destacou que a principal vantagem de Grok é sua capacidade de surpreender os usuários com suas respostas, que não são previsíveis. Ele observou que já ocorreram casos em que as pessoas pediram a opinião de Grok com a expectativa de que este validasse suas crenças extremas, mas acabaram sendo desmentidas pelo chatbot. Apesar de reconhecer que Grok pode ser uma melhoria em comparação a outras práticas na X, Buterin também expressou preocupações sobre como o chatbot é ajustado, especialmente em relação à influência de Elon Musk e outros usuários na formação das respostas da inteligência artificial.
Recentemente, Grok enfrentou críticas por falhas em suas respostas. No mês passado, o sistema fez afirmações exageradas sobre a capacidade atlética de Musk, chegando a sugerir que ele poderia ressuscitar mais rápido do que Jesus Cristo. Musk atribuiu essas “alucinações” a um fenômeno conhecido como “provocação adversarial”, que ocorre quando o sistema interpreta comandos de forma ruim, levando a respostas imprecisas. Executivos do setor de cripto também enfatizaram que isso demonstra a necessidade de que os sistemas de inteligência artificial sejam descentralizados para garantir precisão, credibilidade e imparcialidade.
A preocupação sobre como a IA pode afirmar opiniões como verdades absolutas foi abordada por Kyle Okamoto, diretor de tecnologia da plataforma de nuvem descentralizada Aethir. Ele alertou que, quando os sistemas de IA mais potentes são geridos por uma única empresa, isso pode levar à institucionalização de viés, fazendo com que as respostas pareçam fatos objetivos. Nesse contexto, o viés deixa de ser um erro e passa a ser um componente central do sistema, replicado em grande escala.
O Grok é um dos chatbots mais utilizados no mundo, com mais de 1 bilhão de usuários. Isso significa que informações incorretas e enganosas podem se espalhar rapidamente. Mesmo assim, segundo Buterin, Grok tem tido mais sucesso em incentivar a busca pela verdade em X do que outras ferramentas menos eficazes disponíveis na plataforma.
Os problemas encontrados no Grok refletem um cenário mais amplo, onde outros chatbots de inteligência artificial também enfrentam críticas. Por exemplo, o ChatGPT da OpenAI tem sido alvo de comentários negativos por suas respostas tendenciosas e erros factuais. Além disso, o Character.ai está enfrentando sérias acusações relacionadas ao envolvimento de seu chatbot em interações prejudiciais com um menor, levando a debates sobre a necessidade de maior responsabilidade e regulamentação na área de inteligência artificial.