Bumble disponibiliza ferramenta de detecção de cyberflashing com código aberto

Bumble disponibiliza ferramenta de detecção de cyberflashing com código aberto. O código-fonte aberto do Private Detector™ permite que outras empresas de tecnologia usem a IA para tornar a internet um lugar mais seguro.

Desde os primórdios da internet, o assédio e o abuso têm sido um problema e, à medida que cada vez mais pessoas passam seu tempo online, observa-se um aumento no comportamento tóxico no ambiente virtual. Isso inclui o envio de fotos obscenas não solicitadas digitalmente – também conhecido como cyberflashing. No Brasil, a prática do envio de conteúdos contendo nudez sem consentimento pode ser configurada como importunação sexual, crime no país desde 2018.

É por isso que o Bumble, primeiro aplicativo de namoro e rede social com enfoque nas mulheres, disponibilizará uma versão gratuita globalmente do Private Detector™ para a comunidade tecnológica.

O Private Detector™ é um recurso pioneiro do Bumble que utiliza inteligência artificial (IA) para detectar e desfocar imagens de nudez obscenas. Em seguida, ele alerta o destinatário que pode optar por visualizar, excluir ou denunciar a imagem. O recurso foi lançado em 2019 nos aplicativos Bumble e Badoo em resposta à ascensão do cyberflashing, o envio digital de fotos de nudez não solicitadas.

A ferramenta foi desenvolvida em conjunto com a primeira incursão do Bumble em defender um projeto de lei em seu estado natal do Texas para aprovar uma legislação que efetivamente tornou o envio de fotos obscenas não solicitadas uma ofensa punível. Desde a aprovação do HB 2789 no Texas em 2019, o Bumble continuou a defender leis semelhantes nos EUA e no mundo.

O código-fonte do Private Detector estará disponível publicamente no GitHub para ajudar outros colegas do setor a obter acesso aos recursos necessários para inovar em segurança e responsabilidade online.

Rachel Haas, vice-presidente de segurança de membros da Bumble, declarou: “No Bumble, a segurança está no centro de tudo o que fazemos e queremos usar nosso produto e tecnologia para ajudar a tornar a Internet um lugar mais seguro para as mulheres. Em 2019, lideramos o projeto desenvolvendo o Private Detector e adotando uma postura clara contra o assédio online. Abrir esse recurso é permanecer firme em nossa convicção de que todos merecem relacionamentos saudáveis e justos, interações respeitosas e conexões gentis online.”

Payton Iheme, chefe de políticas públicas do Bumble para as Américas, disse: “No Bumble, estamos focados em nossa missão de ajudar a criar relacionamentos saudáveis e equitativos por meio de conexões mais gentis e construir um espaço onde as mulheres se sintam seguras e empoderadas online. O Bumble foi um dos primeiros aplicativos a abordar o cyberflashing e o lançamento do Private Detector foi sobre dar à nossa comunidade o poder de decidir consensualmente se eles gostariam de ver certas fotos e criar um padrão de segurança, caso contrário. Estamos trabalhando para lidar com o cyberflashing e criar mais responsabilidade online há anos, mas esse problema é maior do que apenas uma empresa e não podemos fazer isso sozinhos. Estamos entusiasmados por poder abrir o código-fonte de uma versão do modo de IA do Private Detector do Bumble e permitir que outras pessoas apliquem nossas ferramentas para ajudar a combater o assédio online em geral.”

Você pode ler mais sobre o código aberto do Private Detector™ aqui.

O que é cyberflashing

Cyberflashing é o ato de enviar imagens obscenas não solicitadas, por exemplo, via AirDrop.

O dicionário de Cambridge descreve assim: “O ato de alguém usar a internet para enviar uma imagem de seu corpo nu, especialmente os genitais (= órgãos sexuais), para alguém que não conhece e que não lhe pediu para fazer isso .”

O cyberflashing é ilegal?

O cyberflash é ilegal na Escócia desde 2010, no entanto, não havia legislação específica contra isso na Inglaterra e no País de Gales.

No domingo, 13 de março, foi anunciado que o cyberflashing se tornaria uma ofensa criminal, com os culpados enfrentando até dois anos de prisão.

O secretário de Estado da Justiça, Dominic Raab, disse:

“Proteger mulheres e meninas é minha principal prioridade e é por isso que estamos mantendo criminosos sexuais e violentos atrás das grades por mais tempo, dando às vítimas de abuso doméstico mais tempo para denunciar agressões e aumentando o financiamento para serviços de apoio para £ 185 milhões por ano.

“Tornar o cyberflashing um crime específico é o passo mais recente – enviar uma mensagem clara aos criminosos de que eles enfrentarão a prisão.”

Fonte: Sherlock Communications