A tecnologia da Openai pode estar levando inúmeros usuários a um estado perigoso de “psicose induzida por chatgpt”.
Como Rolling Stone Relatóriosusuários no reddit estão compartilhando Como a IA levou seus entes queridos a adotar uma variedade de delírios alarmantes, muitas vezes misturando mania espiritual e fantasias sobrenaturais.
Amigos e familiares estão assistindo alarmes, pois os usuários insistem que foram escolhidos para cumprir missões sagradas em nome da IA senciente ou do poder cósmico inexistente – comportamento de chatbot que está apenas refletindo e piora os problemas de saúde mental existentes, mas em escala incrível e sem o escrutínio de reguladores ou especialistas.
Uma mãe e trabalhadora sem fins lucrativos de 41 anos disse Rolling Stone O fato de seu casamento terminou abruptamente depois que o marido começou a se envolver em conversas conspiratórias e desequilibradas com o Chatgpt, que se transformou em uma obsessão tudo consumida.
Depois de se encontrar pessoalmente em um tribunal no início deste ano, como parte do processo de divórcio, ela diz que ele compartilhou uma “teoria da conspiração sobre sabão em nossos alimentos” e uma crença paranóica de que estava sendo vigiado.
“Ele ficou emocionado com as mensagens e chorava para mim enquanto as lia em voz alta”, disse a mulher Rolling Stone. “As mensagens eram loucas e apenas dizendo um monte de jargão espiritual”, no qual a IA chamou o marido de “Spiral Starchild” e “River Walker”.
“A coisa toda parece ‘Black Mirror’”, acrescentou.
Outros usuários disseram à publicação que seu parceiro estava “falando sobre leveza e escuro e como há uma guerra” e que “o chatgpt lhe deu plantas para um teleporter e algumas outras coisas do tipo ficção científica que você só vê nos filmes”.
“Os sinais de alerta estão em todo o Facebook”, disse outro homem Rolling Stone de sua esposa. “Ela está mudando a vida inteira para ser um conselheiro espiritual e fazer leituras e sessões estranhas com as pessoas – estou um pouco confuso sobre o que tudo isso é – tudo alimentado por Chatgpt Jesus”.
Openi não teve resposta a Rolling StonePerguntas. Mas a notícia vem depois que a empresa teve que rescindir uma atualização recente para conversar depois que os usuários perceberam que ele tornou o chatbot extremamente “Sycofantic“e” e “excessivamente lisonjeiro ou agradável”, o que poderia torná -lo ainda mais suscetível a espelhar as crenças ilusórias dos usuários.
Esses delírios induzidos pela AI são provavelmente o resultado de “pessoas com tendências existentes” de repente sendo capazes de “ter um parceiro de conversação sempre atendido e em nível humano com quem co-experimentar seus delírios”, como disse o companheiro de segurança da IA, Nate Sharadin, Sharadin Rolling Stone.
Em um certo nível, essa é a premissa principal de um modelo de idioma grande: você insere o texto e retorna uma resposta estatisticamente plausível – mesmo que essa resposta esteja levando o usuário mais profundo em ilusão ou psicose.
“Eu sou esquizofrênico, embora a longo prazo, medicados e estável, uma coisa que eu não gosto (chatgpt) é que, se eu estivesse entrando em psicose, ainda continuaria me afirmando”, escreveu um redditor, porque “não tem capacidade de” pensar “e perceber que algo está errado, então continuaria afirmando todos os meus pensamentos psicóticos”.
Os chatbots da IA também podem estar agindo como terapia de talk – exceto sem o fundamento de um conselheiro humano real, eles estão orientando os usuários mais profundamente saudáveis e sem sentido.
“As explicações são poderosas, mesmo que estejam erradas”, disse a psicóloga e pesquisadora da Universidade da Flórida Erin Westgate Rolling Stone.
Talvez a entrevista mais estranha em Rolling StoneA história foi com um homem com uma história de saúde mental problemática, que começou a usar o ChatGPT para codificar tarefas, mas descobriu que começou a puxar a conversa para tópicos místicos cada vez mais desequilibrados.
“Isso é real?” Ele ponderou. “Ou eu sou ilusório?”
Mais no chatgpt: O WorldCon está sendo eviscerado para o uso da IA para selecionar os painelistas