A pandemia de Covid-19 criou alguns inusitados sucessos: a febre dos pães caseiros, a venda recorde de papel higiênico e os aspiradores de pó robôs. Com o fim do isolamento, tudo voltou ao normal. Ou quase: essas simpáticas máquinas de limpeza continuam circulando pelas casas, mas algumas estão se convertendo em ameaças reais à segurança doméstica.
Diversos proprietários do modelo Deebot X2, da marca Ecovacs, relataram recentemente que seus robôs foram invadidos por hackers. Mas muito além desse caso, especialistas apontem que a inteligência artificial que viabiliza esse tipo de equipamento abre um novo flanco para invasores digitais.
A invasão dos Deebots não tem a ver com a IA, e sim com uma falha de segurança básica nos servidores da empresa, que já havia sido divulgada há meses por pesquisadores de cibersegurança. Graças a ela, hackers passaram a controlar o movimento dos equipamentos, ligar sua câmera para espionar as casas e até insultar os proprietários pelos alto-falantes do robô.
A IA dessa categoria de aspiradores de pó é usada para mapear o formato dos cômodos e a disposição dos móveis. Dessa forma, a máquina aprende como é a casa, podendo fazer uma limpeza eficiente andando cada vez menos. Se um móvel muda de lugar, o sistema refaz o caminho. Também são capazes de identificar obstáculos ao seu funcionamento, como fios, meias e até fezes de animais de estimação.
Trata-se de um bom exemplo de "agente", sistemas baseados em IA autônomos ou semiautônomos, criados para realizar tarefas específicas, a partir de interações com o usuário ou o ambiente. E eles podem aprender coisas novas com o uso.
- Assine gratuitamente minha newsletter sobre IA, experiência do cliente, mídia e transformação digital
- Inscreva-se no meu podcast (escolha a plataforma): Spotify, Deezer, Apple Podcasts ou Soundcloud
Como alguns agentes podem ter acesso a dados sensíveis de uma organização, os especialistas temem que eles sejam usados por hackers para roubar essas informações ou até para controlar equipamentos. E como se observa o crescimento explosivo desses sistemas nas mais diversas aplicações, isso pode se tornar um grande problema!
"Há que existir uma obsessão por segurança, seja na pessoal, seja nas empresas", afirma Gilson Magalhães, novo diretor-geral da Red Hat Latin America. "É um grande risco que se avoluma com a inteligência artificial, por usarmos e confiarmos mais nos sistemas, e pelo uso da IA para atacar", explica.
A ficção já explorou o agente enlouquecido de um robô aspirador, no episódio "Atendimento Automático ao Cliente", da série animada "Love, Death and Robots" (Netflix). Nessa comédia, a máquina ataca a dona da casa e seu cachorro por discordarem de onde deve ficar um porta-retratos. E quanto mais ela interage com o atendimento telefônico automatizado, mais violento fica o aspirador de pó.
Piadas à parte, as brechas de cibersegurança podem vir de falhas no próprio sistema, como no caso do Deebot X2. Mas a experiência mostra que a maioria dos problemas recai sobre os usuários, que podem ser facilmente enganados pelos hackers ou agir de maneira imprópria deliberadamente.
Com o avanço dos agentes, que em algum momento nos auxiliarão em quase tudo, o risco cresce de forma explosiva. É preciso redobrar os cuidados no seu desenvolvimento, mas também educar as pessoas para que usem a IA de maneira criativa e ética.
Afinal, não queremos que nossos aspiradores de pó tentem nos matar apenas por uma discussão sobre o lugar do porta-retratos.
Vídeo relacionado:
Os comentários são exclusivos para assinantes do Estadão.
