ChatGPT precisa de regulação para maior segurança

ChatGPT precisa de regulação para maior segurança e evolução tecnológica e tem despertado curiosidade e necessidade de aprofundamento. 

Visto como evolução sem precedentes por uns e risco à humanidade por outros, a chegada do ChatGPT tem despertado curiosidade e busca por aprofundamento em temas que envolvem inovação e Inteligência Artificial (IA) aplicada às atividades diárias, como uma maneira de expandir as possibilidades com logística, educação e até recrutamento. O cenário parece muito promissor, com aposta de geração de grande valor para clientes de empresas de TI e para a sociedade em geral, mas é preciso pensar em como regulamentar essa evolução para seguirmos oferecendo praticidade com segurança a todos.

Lançado neste ano com o objetivo de ser um protótipo de chatbot com IA especializado em diálogo, o ChatGPT tem impacto extremamente positivo, principalmente dentro das corporações. A tecnologia veio para mudar o modus operandi, a satisfação dos colaboradores, os modelos de negócio em atuação, o relacionamento com clientes e fornecedores e até temas regulamentares de responsabilidade corporativa. Por isso, vejo como fundamental que, como toda tecnologia emergente, trabalhemos em conjunto para colocar esses controles em prol da redução dos impactos causados por possíveis falhas de segurança, por exemplo.

Essa necessidade existe porque, além de textos, o ChatGPT já aceita outros tipos de inputs de dados, como imagens. Esse tipo de dado, quando utilizado por cibercriminosos, pode conter códigos maliciosos incorporados que causam sérios danos no landscape da rede de dados e sistemas da máquina do indivíduo. Outro exemplo de risco associado à falta de regulação do uso do ChatGPT é com relação a momentos em que, se você for muito específico no tipo de pergunta que fizer à tecnologia, seja possível burlar alguns dos controles de segurança da plataforma e gerar códigos maliciosos para infectar dispositivos e tirar proveito dessa prática.

Há, também, outras questões muito críticas sobre esse tema que não estão bem regulamentadas, como algumas ações relacionadas a segurança de dados, fact checking, monitoramento da evolução intrínseca da tecnologia, uso de informações obtidas para tomada de decisão, etc. Por conta disso, diversos representantes de governos têm trabalhado arduamente para entender como regulamentar essas práticas e seguir disponibilizando a tecnologia de forma segura e com possibilidade de constante evolução.

Ainda assim, há que se considerar que, embora desafiadora, essa tecnologia já demonstra inúmeras vantagens para setores muito importantes dentro das empresas. Uma dessas vantagens foi notada após a chegada da quarta versão do ChatGPT, chamada GPT-4. A novidade tornou possível treinar colaboradores para resolução de problemas encontrados durante as tarefas diárias. Isso também se aplica, por exemplo, a funções executadas pela primeira vez na carreira, ou seja, sem experiência prática anterior. Assim, cada colaborador pode estruturar e submeter para o GPT-4 tal cenário complexo ou mesmo caótico em que se encontra para que, assim, o módulo de IA entenda o que está acontecendo e qual tipo de procedimento deve ser seguido.

Essa praticidade permite que o colaborador direcione seus esforços para tarefas mais estratégicas, o que contribui, até mesmo, para a sua motivação. Além disso, também vislumbro uma boa oportunidade para que o setor de RH das organizações crie integrações entre suas equipes e o GPT-4 de modo que o processo de profile screening dos candidatos seja realizado por serviços orientados a IA e machine learning. Por isso, a curto e médio prazo, minha aposta é que o ChatGPT siga sendo usado por milhões de pessoas para aumentar e simplificar numerosas tarefas diárias. E no longo prazo espero um avanço conjunto com outro grande movimento que estamos vivendo, o de Internet das Coisas (IoT).

Isso porque a integração com IoT promete ser um movimento mais delicado e “assustador”, por causa do risco de mecanismos de tomada de decisão afetando o mundo “não virtual”, como ligar e desligar uma central, proteger um data center, controlar um avião, entre outras possibilidades.

Por fim, após apresentar tantos desafios e benefícios para os próximos anos com a implantação e regulamentação do ChatGPT, vale ressaltar uma informação muito importante que, certamente, gera receio em boa parte dos usuários: o ChatGPT não vai substituir o ser humano. Pelo menos, não por completo, já que embora a tecnologia possa ser inserida em um processo no qual assume boa parte do trabalho que, até então, era desempenhado por mãos humanas, a intervenção do ser humano continuará sendo crucial para decidir os resultados finais de cada tarefa, impactando, também, a tão fundamental segurança.

Por : Rodrigo Mello - head das horizontais de Desenvolvimento de Sistemas e Data & Analytics da Infosys no Brasil.

Veja também:

 

Sobre mindsecblog 2483 Artigos
Blog patrocinado por MindSec Segurança e Tecnologia da Informação Ltda.

4 Trackbacks / Pingbacks

  1. Patch Tuesday traz correções importantes | Minuto da Segurança da Informação
  2. ANPD divulga nota técnica sobre tratamento de dados pessoais no setor farmacêutico | Minuto da Segurança da Informação
  3. Requerimentos para implementação de DevSecOps no SDLC | Minuto da Segurança da Informação
  4. Estressado com o trabalho? Seis dicas para os CISOs melhorarem o ambiente profissional | Minuto da Segurança da Informação

Deixe sua opinião!