Como especialista em tecnologia da família, vi mídias sociais e empresas de tecnologia fazerem coisas incríveis. Mas o plano do Google de lançar Gêmeos, é Transmitido para usuários com menos de 13 anos, é selvagem. Eles notificaram os pais em um email, mas parecia muito mais um aviso do que um convite caloroso.
Então, por que eles estão fazendo isso? Ninguém tem certeza, embora o Google esteja apenas ingressando no Instagram, Snapchat e uma série de outras plataformas da corrida para levar a IA a quase todas as facetas de nossas vidas.
As crianças, no entanto, são muito mais vulneráveis que os adultos – especialmente quando se trata de interações on -line. Aqui estão minhas 5 principais preocupações sobre a recente e imprudência decisão do Google em abrir Gêmeos para crianças de 13 anos ou menos.
Titania Jordan
Links sociais Navegação
Diretor -Diretor, Bark Technologies.
1. Está ensinando as crianças a terceirizar o pensamento e a criatividade desde muito cedo
As crianças pequenas precisam praticar escrita, desenho e pensando criticamente com suas próprias mentes – não usando palavras e imagens raspadas arrancadas das profundezas da Internet.
O Chat GPT já está provando ser um terreno fértil para trapaças e atalhos nas escolas. Dar a crianças mais jovens acesso instantâneo a Gêmeos apenas acelerará essa introdução ao corte de cantos quando se trata de aprender e ser criativo.
Quando uma plataforma de IA como Gemini fornece informações completamente erradas, ela é chamada de “alucinação”. Essa é uma maneira pitoresca de dizer “inventar as coisas que são bobagens total”.
O Google até diz em suas perguntas frequentes sobre Gêmeos no aplicativo Link Family que “(alucinações são) um termo estranho, mas basicamente significa apenas que Gêmeos às vezes entende as coisas erradas ou diz coisas que não são verdadeiras. (Eles) podem parecer reais, e Gemini pode até dizer com confiança.”
Para os adultos, esses tipos de erros podem ser fáceis de reconhecer e ignorar, como dizer que a capital da França é o Cairo. Mas para as crianças, elas podem não saber quando verificar uma resposta simples-e muito menos algo complicado ou sutil. Esse tipo de derrota o objetivo de ter Gêmeos ajudando com a lição de casa para crianças.
3. Conteúdo inadequado pode apresentar perigos para as crianças
Gêmeos também pode atuar como um Chatbot “Amigo” para crianças, que apresenta vários perigos. Outros chatbots semelhantes foram responsabilizados pela exposição ao conteúdo sexual e até ao suicídio de uma criança.
Obviamente, o Google afirmou que os Gêmeos para as crianças terão salvaguardas, mas nunca há uma garantia de que coisas inadequadas não escorrerem pelas rachaduras – especialmente quando essas plataformas de IA alucinam regularmente.
Felizmente, aplicativos como a Bark podem monitorar as fotos, vídeos e até mensagens de texto do seu filho para conteúdo inadequado que eles podem salvar ou compartilhar de Gemini.
4. Informações pessoais compartilhadas podem ser invadidas
Compartilhar informações pessoais – de estados emocionais sensíveis a endereços domésticos a fotos pessoais – com uma plataforma de IA é vulnerável porque tudo pode ser invadido. Se alguém tivesse acesso às conversas de gêmeos do seu filho, poderia ser estressante e até perigoso.
O discurso de ódio e o viés podem ser transmitidos em respostas de Gêmeos
A maneira como as plataformas de IA como o Gemini Work é eliminando a totalidade da Internet para obter informações semelhantes – informações escritas por outros humanos.
Isso significa que vieses e pontos de vista humanos podem ser apresentados por Gêmeos como verdade, o que agora sabemos que nem sempre nem sempre é verdade.
Como as plataformas de IA fornecem respostas com base em informações que os humanos criaram, ela pode refletir preconceitos que existem no dados é alimentado com. Isso pode incluir posições prejudiciais sobre grupos marginalizados.
Palavra final
No final do dia, a tecnologia é apenas mais uma ferramenta que pode facilitar nossas vidas, mas é exatamente isso – uma ferramenta, não uma necessidade.
Embora as calculadoras sejam usadas todos os dias em matemática avançada, as crianças ainda aprendem a contar, adicionar, subtrair, multiplicar e dividir a maneira da velha escola na escola primária.
O mesmo deve ir com plataformas de IA como Gêmeos quando se trata de escrever, pensar e ser criativo.
Confira nossa lista abrangente das melhores ferramentas de IA .
Este artigo foi produzido como parte do canal especialista da TechRadarPro, onde apresentamos as melhores e mais brilhantes mentes do setor de tecnologia hoje. As opiniões expressas aqui são as do autor e não são necessariamente as do TechRadarpro ou do Future Plc. Se você estiver interessado em contribuir, descubra mais aqui: https://www.techrar.com/news/submity-your-story-to-techrar-pro
