O Google usa Inteligência Artificial para detetar melhor as buscas de pessoas em crise

Em uma crise pessoal, muitos recorrem a uma fonte de apoio impessoal: o Google e a inteligência artificial.
Todos os dias, a empresa realiza pesquisas sobre temas como suicídio, agressão sexual e abuso doméstico.
Mas o Google quer fazer mais para orientar as pessoas para as informações de que precisam e diz que novas técnicas de IA que podem analisar melhor as complexidades da linguagem estão ajudando.
Especificamente, o Google está integrando seu mais recente modelo de aprendizado de máquina, o MUM, em seu mecanismo de pesquisa para “detectar com mais precisão uma gama mais ampla de pesquisas pessoais de crise”.
A empresa lançou o MUM em sua conferência IO no ano passado e, desde então, o usou para aprimorar a pesquisa e tentar responder a perguntas relacionadas à pesquisa original.
Neste caso, a MUM será capaz de detetar consultas de pesquisa com relação a situações pessoais difíceis que anteriormente ferramentas de pesquisa não conseguiram, diz Anne Merritt, uma diretora de produtos da Google para a saúde e qualidade da informação.
“A MUM é capaz de nos auxiliar na compreensão de questões mais maiores e mais complexas como por exemplo, “porque é que ele me agrediu quando eu disse que não o amava”, disse Merrit. “Pode ser lógico para os humanos que esta pergunta é sobre a violência doméstica, mas perguntas de linguagem natural e longas como estas são difíceis de entender para os nossos sistemas sem inteligência artificial avançada”.
Exemplos de outras perguntas que o MUM pode responder incluem “maneiras mais comuns de cometer suicídio” (Merrit disse que o sistema anterior “poderia ter sido entendido como uma busca de informações”) e “hotspots de suicídio de Sydney”.
As respostas podem retornar informações de viagem – ignore a menção de “suicídio” em favor da pergunta “quente” mais popular).
Quando o Google deteta uma pesquisa de crise, ele responde com uma caixa de mensagem dizendo aos usuários “úteis”, geralmente acompanhados de um número de telefone ou site de instituições de caridade de saúde mental como os samaritanos.
Alguns especialistas de inteligência artificial avisam que o uso crescente de modelos de linguagem de aprendizagem de máquinas por parte do Google pode trazer à superfície novas dificuldades para a empresa, como por exemplo, a inserção de desinformação e preconceitos nos resultados de pesquisas. Os sistemas de inteligência artificial são também rasos, oferecendo aos engenheiros uma visão parcial de como chegam a certas conclusões.
Quando perguntamos ao Google, por exemplo, como é que este verifica antes quais os termos de pesquisa identificados pela MUM estão associados a crises pessoais, os seus representantes não sabem ou não quiseram dar a resposta. A empresa diz que testa com rigor as atualizações dos seus produtos de pesquisa utilizando analistas humanos, mas isso não é a mesma coisa que saber antes como o seu sistema de inteligência artificial vai responder a determinadas perguntas. Para a Google, no entanto, tais compensações valem a pena.