O Google planeja lançar seu chatbot de inteligência artificial Gemini na próxima semana para crianças menores de 13 anos que têm contas do Google gerenciadas pelos pais, pois as empresas de tecnologia disputam para atrair usuários jovens com produtos de IA.
“Em breve, os aplicativos Gemini estarão disponíveis para o seu filho”, disse a empresa em um e-mail esta semana para os pais de um garoto de 8 anos. “Isso significa que seu filho poderá usar Gêmeos” para fazer perguntas, obter ajuda para a lição de casa e inventar histórias.
O chatbot estará disponível para crianças cujos pais usam Link familiarum serviço do Google que permite que as famílias criem o Gmail e optem em serviços como o YouTube para o filho deles. Para se inscrever em uma conta filho, os pais fornecem à empresa de tecnologia dados pessoais, como o nome do filho e a data de nascimento.
Gêmeos tem específico guardrails para usuários mais jovens Para impedir o chatbot de produzir certos conteúdos inseguros, disse Karl Ryan, porta -voz do Google. Quando uma criança com uma conta de link familiar usa Gemini, ele acrescentou, a empresa não usa esses dados para treinar sua IA
A introdução de Gêmeos para crianças pode acelerar o uso de chatbots entre uma população vulnerável como escolas, faculdades, empresas e outras pessoas que lidam com os efeitos das tecnologias generativas de IA populares. Treinados em enormes quantidades de dados, esses sistemas podem produzir texto humano e imagens e vídeos de aparência realista.
O Google e outros desenvolvedores de chatbot da AI estão bloqueados em uma competição feroz para capturar usuários jovens. Presidente Trump recentemente instou as escolas a adotarem as ferramentas para ensino e aprendizagem. Milhões de adolescentes já estão usando chatbots como auxílios de estudo, redação de treinadores e companheiros virtuais. Grupos infantis alertam os chatbots pode representar sério Riscos para a segurança infantil. Os bots também às vezes inventam coisas.
UNICEF, a agência infantil da nação unida e outros grupos infantis observaram que o Sistemas de IA podem confundir, desinformar e manipular Crianças pequenas que podem ter dificuldade em entender que os chatbots não são humanos.
“A IA generativa produziu conteúdo perigoso”, disse o Escritório de Pesquisa Global da UNICEF em um post sobre riscos e oportunidades de IA para crianças.
O Google reconheceu alguns riscos em seus e -mails para as famílias nesta semana, alertando os pais de que “os gêmeos podem cometer erros” e sugerindo que “ajudam seu filho a pensar criticamente” sobre o chatbot.
O email também recomendou que os pais ensinassem seus filhos a verificar as respostas de Gemini. E a empresa sugeriu que os pais lembrassem ao filho que “Gêmeos não é humano” e “não entrar em informações sensíveis ou pessoais em Gêmeos”.
Apesar dos esforços da empresa para filtrar material inadequado, o email adicionou, as crianças “podem encontrar conteúdo que você não deseja que vejam”.
Ao longo dos anos, os gigantes da tecnologia desenvolveram uma variedade de produtos, recursos e salvaguardas para adolescentes e crianças. Em 2015, Google Introduziu crianças do YouTubeum aplicativo de vídeo independente para crianças que são populares entre famílias com crianças pequenas.
Outros esforços para atrair crianças on -line levaram preocupações de funcionários do governo e advogados das crianças. Em 2021, a Meta interrompeu os planos para introduzir um serviço infantil do Instagram – um Versão do seu aplicativo Instagram destinado a aqueles com menos de 13 anos – depois que o procurador -geral de várias dezenas de estados enviados uma carta para A empresa dizendo que a empresa “historicamente não conseguiu proteger o bem -estar das crianças em suas plataformas”.
Algumas empresas de tecnologia proeminentes – incluindo GoogleAssim, Amazon e Microsoft -Também pagaram multas multimilionárias para liquidar as queixas do governo de que violaram a Lei de Proteção à Privacidade Online das Crianças. Essa lei federal exige que os serviços on -line visam as crianças obterem a permissão dos pais antes de coletar informações pessoais, como um endereço residencial ou uma selfie, de uma criança com menos de 13 anos.
Sob o lançamento de Gêmeos, as crianças com contas do Google gerenciadas pela família poderiam inicialmente acessar o chatbot por conta própria. Mas a empresa disse que alertaria os pais e que os pais poderiam gerenciar as configurações de chatbot de seus filhos, “incluindo desligar o acesso”.
“Seu filho poderá acessar os aplicativos Gemini em breve”, disse o e -mail da empresa para os pais. “Também informaremos quando seu filho acessar Gemini pela primeira vez.”
Ryan, porta -voz do Google, disse que a abordagem para fornecer Gêmeos para jovens usuários cumpriram a lei de privacidade on -line federal para crianças.