Todo mundo sabe que um dos alvos prediletos de pedófilos e outros tipos de pessoas mal-intencionadas online são os chats de plataformas, onde há muitas crianças e adolescentes. A Microsoft está ciente que isso pode acontecer (e acontece), principalmente no mensageiro da sua linha de videogames, a Xbox. Por isso, ela vai liberar para outras empresas que trabalham com messengers online o SDK do Projeto Artemis, uma iniciativa que prevê recursos para evitar que predadores possam cometer abuso sexual em janelas de bate-papo.
A ferramenta reconhece palavras e padrões de fala específicos, sinalizando mensagens suspeitas para posterior revisão de um moderador humano. Esse responsável determina se a situação deve ser escalada, entrando em contato com a polícia ou com outros agentes da lei. Caso haja uma identificação positiva de textos ou imagens referentes à exploração sexual infantil, o Centro Nacional para Crianças Desaparecidas e Exploradas será notificado para novas ações.
“Às vezes gritamos contra as plataformas — e há abuso em todas as plataformas que têm bate-papo online —, mas devemos aplaudi-las por implantar mecanismos”, diz Julie Cordua, CEO da organização de tecnologia sem fins lucrativos Thorn, que trabalha para impedir abuso sexual de crianças na web. “Se alguém disser ‘oh, não existe abuso’, direi a eles ‘bem, vocês estão procurando?’ “
–
Podcast Canaltech: de segunda a sexta-feira, você escuta as principais manchetes e comentários sobre os acontecimentos tecnológicos no Brasil e no mundo. Links aqui: https://canaltech.com.br/360/
–
Projeto Artemis poderá ser utilizado por todas as plataformas
A ferramenta da Microsoft é importante, segundo a Thorn, porque, embora ela tenha sido “gestada” para o chat da linha Xbox, ela passa a ficar disponível para qualquer empresa que use programas online de bate-papo e ajuda a definir um padrão do setor para a detecção e o monitoramento de predadores, ajudando no desenvolvimento de futuras soluções de prevenção. “As conversas são difíceis de monitorar quanto ao possível abuso infantil, porque podem haver muitas nuances nelas”, afirmou Cordua.
De acordo com a Microsoft, o Projeto Artemis está em desenvolvimento há mais de 14 meses, e nasceu durante o “360 Cross Industry Industry Hackathon”, co-patrocinado por dois grupos de proteção infantil, o WePROTECT Global Alliance e o Child Dignity Alliance. Equipes de games, mensageiros e grupos de entretenimento, a exemplo de Roblox, Kik, Thorn e The Meet Group, também participaram da iniciativam trabalhando em parceria com a Microsoft. O professor Hany Farid, especializado em análise de imagens digitais, liderou o processo, desenvolvendo a ferramenta PhotoDNA, que pode detectar e relatar online imagens de exploração sexual infantil.
Ferramenta ainda não está completa
Julie diz que, por enquanto, o Projeto Artemis conta com limitações iniciais, com o fato de só funcionar no idioma inglês. Contudo, como cada empresa que usa a ferramenta pode personalizá-la para seu próprio público, elas poderão adaptar e refinar a sua execução — um grande passo em direção à prevenção proativa, diferente das atuais fracassadas políticas de autodetecção.
Contudo, alguns detalhes sobre o funcionamento do Projeto Artemis seguem escassos. Não foi especificado se ele funcionaria com programas de bate-papo que usam criptografia de ponta a ponta ou quais medidas serão tomadas para evitar possíveis estresses pós-traumáticos em moderadores.
Em seu blog, a Microsoft acrescenta que a iniciativa “não é de forma alguma uma panacéia”, mas representa o primeiro passo para aumentar o cuidado online sobre o assunto. “O primeiro passo é que precisamos melhorar a identificação de onde isso está acontecendo. Mas todas as empresas que hospedam qualquer bate-papo ou vídeo devem fazer isso, caso contrário, são cúmplices em permitir o abuso de crianças em suas plataformas”, criticou Julie.
Trending no Canaltech:
- Leilão da Receita tem Nintendo Switch a R$ 350 e iPhone XS por R$ 1 mil
- Nem robô, nem animal | Cientistas criam seres vivos programados por computador
- Loja não-oficial da Xiaomi no Brasil desaparece e deixa clientes na mão
- Google anuncia que Chrome não dará mais suporte a cookies de terceiros em 2022
- CT News – 14/01/2020 (Mercado de PCs volta a crescer após oito anos de baixa)
Fonte: Canaltech
