O surgimento e a popularização da inteligência artificial generativa (GenAI) são eventos que certamente estarão marcados na história de nossa civilização, seja para o bem ou para o mal.
Riscos para a segurança digital
Sendo um algoritmo que auxilia e facilita o desenvolvimento de uma miríade de tarefas, não é surpreendente que a adoção dessa tecnologia tenha sido tão veloz, principalmente pelas grandes empresas que estão sempre lutando para adquirir uma fatia ainda maior de um mercado tão competitivo. Mas enquanto gigantes como a Google, Microsoft e a Meta parecem estar otimistas a respeito do futuro promissor da GenAI, muitas empresas menores enxergam o algoritmo generativo como um problema em potencial.
Por exemplo, segundo uma pesquisa recente publicada pela ISACA (Information Systems Audit and Control Association), apenas 28% das organizações analisadas pelo estudo permitem o uso formal da inteligência artificial no ambiente de trabalho, com apenas 10% tendo uma política formal a respeito do uso dos softwares de GenAI sendo aplicados. O estudo pinta um cenário de incerteza ante ao uso dessa nova tecnologia, principalmente pelos profissionais de segurança digital ao redor do mundo.
Vários fatores contribuem para esse receio, dentre eles a falta de treinamento por parte dos utilizados, uma carência de políticas empresariais mais estritas quanto ao uso da tecnologia e, acima de tudo, a possibilidade dos softwares de GenAI serem alvejados por cibercriminosos. Essa é uma preocupação real, já que novas tecnologias tendem a ser mais vulneráveis a ameaças externas, principalmente com os potenciais usos desta nova tecnologia.
Aos que ainda não entraram em contato com a GenAI, trata-se de um Grande Modelo de Linguagem (LLM) alimentado por um banco de dados contendo informações dos mais variados tipos. A partir dessas informações, essa inteligência artificial é capaz de gerar imagens, textos, códigos de programação e até mesmo imitar a voz de outras pessoas de maneira “automática”, sem que seja necessário um conhecimento mais aprofundado por parte do usuário, além do prompt inicial. Essa facilidade dá espaço para que criminosos consigam participar de scams e outras atividades ilícitas num ritmo ainda mais acelerado.
Soluções em potencial
Contudo, é impossível negar a praticidade que essa nova tecnologia oferece e, apesar dos receios, não há como escapar de seu papel atual na sociedade, sendo cada vez mais promovida entre os usuários comuns. Mas para implementá-la de maneira segura e com um menor fator de risco, algumas medidas importantes devem ser tomadas de antemão. O uso de criptografia para proteger os dados do usuário é essencial e todos os dispositivos que fazem uso da GenAI precisarão passar por testes rigorosos para evitar possíveis exploits no futuro.
Em junho deste ano, a Open AI, criadora do ChatGPT, patrocinou uma pesquisa a respeito de cibersegurança baseada em IA (Foto: reprodução/X/@OpenAI
A filtragem dos dados nos quais esses grandes modelos de linguagem são treinados também é extremamente importante. Além do fator legal que abrange o infringimento dos direitos autorais de artistas ao redor do mundo, há também o fator ético. Principalmente por não ser “consciente” e “sapiente” da mesma forma que nós, seres humanos, é importante levar em consideração as informações que serão estudadas por tais inteligências artificiais, estabelecendo restrições éticas baseadas no código penal e nos direitos humanos de cada país.
Livre desses fatores internos, a GenAI pode vir a se tornar uma grande aliada no campo da cibersegurança. Enquanto criminosos podem fazer o uso dela para atos maliciosos e nefastos, nada impede que profissionais do campo também a utilizem para facilitar o processo de detecção e prevenção de problemas, levando em consideração a capacidade superior de processamento de dados que uma máquina possui. Portanto, isso diminuiria o tempo de detecção de ameaças e tornaria a resposta aos possíveis ataques de hackers mais dinâmica e responsiva.
O processo de evolução é ininterrupto e interminável e, enquanto a nova tecnologia apresenta riscos em potencial, ela também pode certamente ser de grande ajuda no futuro, se for administrada da maneira correta.
Foto destaque: Imagem ilustrativa de um homem segurando um cadeado "virtual" representando a cibersegurança. Reprodução/Vecteezy/Thanakorn Lappattara
