Como um aplicativo está usando IA para ajudar os pais a monitorar os hábitos online de seus filhos

Uma nova ferramenta online visa ajudar a combater a crise de saúde mental entre crianças no país.

Um estudo de 2019 da Jama Network descobriu que crianças que passavam mais de três horas por dia nas redes sociais corriam o dobro de risco de transtornos mentais , incluindo depressão e ansiedade.

O recurso conhecido como Balance foi desenvolvido pela empresa de segurança Aura. É comercializado como o primeiro a usar tecnologia de inteligência artificial para monitorar os hábitos online e o bem-estar de uma criança.

"Nossa missão sempre foi ajudar as famílias a lidar com todos os desafios que a tecnologia traz", disse o CEO Hari Ravichandran. Para ele, a motivação para criar o aplicativo foi pessoal, depois que sua filha de 13 anos enfrentou uma crise de saúde mental.

"Ela não queria sair do quarto, tipo, ela estava deitada na cama, não queria levantar, era muito visível que ela estava lutando", disse ele.

Ravichandran decidiu olhar o telefone da filha.

"Eu olhei e, tipo, está literalmente tudo lá. Todas as perguntas que ela faz, as coisas com as quais ela está lutando", disse ele. "Para mim, parecia muito claro que a verdade está, de fato, no dispositivo."

Ravichadran recorreu a especialistas, incluindo psicólogos infantis e clínicos, para ajudá-lo a criar o aplicativo.

Ele diz que sua equipe médica treina modelos de IA para analisar muitas coisas, incluindo padrões de linguagem da criança, tom online, estado emocional e atividades noturnas.

A partir da linha de base da criança, a IA pode detectar anomalias, que podem sinalizar coisas como estresse ou mudanças de humor.

Os pais receberão relatórios pelo aplicativo. O objetivo é que as famílias comecem a dialogar.

Quando questionado sobre os erros cometidos pela IA, Ravichadran reconheceu que a tecnologia não é perfeita.

"Como qualquer tecnologia nova, certo? Ela precisa passar por um ciclo de ficar cada vez melhor", disse ele.

O filho de 15 anos de Rebecca Wilcoxson, Sam, ganhou seu primeiro iPhone em dezembro, mas ela queria proteções.

"É muita pressão sobre os pais tentarem acompanhar essa tecnologia que muda constantemente, se não diariamente, a cada hora", disse Wilcoxson.

Ela participou de um estudo clínico pago para a Balance.

"Conforme eu rolar a tela, ele explicará qual era o tom de voz dele nas mensagens e então me mostrará os aplicativos mais usados durante o tempo em que ele estava no celular", disse ela.

Ela disse que o aplicativo abriu a comunicação com seu filho.

"Percebo que talvez tenha havido mais conversas negativas e conseguimos usar isso como um ponto de conversa juntos", disse ela.

Josh Golin lidera a Fairplay, uma organização de defesa que visa proteger crianças online. Ele afirmou que mudanças reais precisam vir dos legisladores e das grandes empresas de tecnologia.

"Quando se deparam com escolhas sobre a implementação de recursos que tornariam as crianças mais seguras, eles não os implementam porque isso prejudicaria seus resultados financeiros. Então, se a regulamentação diz que você tem o dever de proteger as crianças, é aí que acredito que começaremos a ver uma mudança real", disse Golin.

Mas Wilcoxson concorda que mais supervisão é necessária.

"Se essas empresas de tecnologia têm esse dinheiro para continuar se desenvolvendo, então onde está a oportunidade de tornar isso seguro para nossas crianças, as mais vulneráveis da nossa população?", disse ela.

Embora o Balance seja um dos primeiros a usar IA, existem outras ferramentas que visam ajudar os pais a monitorar a atividade online de seus filhos, incluindo aplicativos como Bark, Qustodio ou Norton.

Como as escolas estão prestes a reabrir, alguns estados estão tomando medidas para manter os celulares fora do alcance das crianças.

Pelo menos 31 estados e Washington DC exigem que os distritos proíbam ou restrinjam o uso de celulares pelos alunos na escola.

• Celulares
• Mídias sociais
• Inteligência artificial