A Apple, a Microsoft e o Google estão anunciando uma nova era do que eles descrevem como smartphones e computadores artificialmente inteligentes. Os dispositivos, segundo eles, automatizarão tarefas como editar fotos e desejar feliz aniversário a um amigo.
Mas para que isso funcione, essas empresas precisam de algo de você: mais dados.
Nesse novo paradigma, seu computador Windows fará uma captura de tela de tudo o que você faz a cada poucos segundos. Um iPhone reunirá informações de vários aplicativos que você usa. E um telefone Android pode ouvir uma chamada em tempo real para alertá-lo sobre um golpe.
Você está disposto a compartilhar essas informações?
Essa mudança tem implicações significativas para nossa privacidade. Para fornecer os novos serviços sob medida, as empresas e seus dispositivos precisam de um acesso mais persistente e íntimo aos nossos dados do que antes. No passado, a maneira como usávamos aplicativos e acessávamos arquivos e fotos em telefones e computadores era relativamente isolada. A IA precisa de uma visão geral para conectar os pontos entre o que fazemos em aplicativos, sites e comunicações, dizem os especialistas em segurança.
“Eu me sinto seguro ao fornecer essas informações a essa empresa?” disse Cliff Steinhauer, diretor da National Cybersecurity Alliance, uma organização sem fins lucrativos com foco em segurança cibernética, sobre as estratégias de IA das empresas.
Tudo isso está acontecendo porque o ChatGPT, da OpenAI, revolucionou o setor de tecnologia há quase dois anos. Desde então, a Apple, o Google, a Microsoft e outras empresas reformularam suas estratégias de produtos, investindo bilhões em novos serviços sob o termo genérico de IA. Elas estão convencidas de que esse novo tipo de interface de computação (que estuda constantemente o que você está fazendo para oferecer assistência) se tornará indispensável.
Leia mais
O maior risco potencial de segurança com essa mudança decorre de uma mudança sutil que está ocorrendo na forma como nossos novos dispositivos funcionam, dizem os especialistas. Como a IA pode automatizar ações complexas - como remover objetos indesejados de uma foto - ela às vezes exige mais poder computacional do que nossos telefones podem suportar. Isso significa que mais dados pessoais podem ter que deixar nossos telefones para serem tratados em outro lugar.
As informações estão sendo transmitidas para a chamada nuvem, uma rede de servidores que processa as solicitações. Quando as informações chegam à nuvem, elas podem ser vistas por outras pessoas, incluindo funcionários da empresa, agentes mal-intencionados e agências governamentais. E, embora alguns de nossos dados sempre tenham sido armazenados na nuvem, nossos dados mais pessoais e íntimos, que antes eram apenas para nossos olhos (fotos, mensagens e e-mails) agora podem ser conectados e analisados por uma empresa em seus servidores.
As empresas de tecnologia dizem que se esforçam ao máximo para proteger os dados das pessoas.
Apple
A Apple anunciou recentemente o Apple Intelligence, um conjunto de serviços de IA e sua primeira grande entrada na corrida da IA.
Os novos serviços serão incorporados em iPhones, iPads e Macs mais novos a partir do segundo semestre. As pessoas poderão usá-los para remover automaticamente objetos indesejados de fotos, criar resumos de artigos da Web e escrever respostas a mensagens de texto e e-mails. A Apple também está reformulando seu assistente de voz, a Siri, para torná-lo mais conversacional e dar a ele acesso a dados de vários aplicativos.
Durante a conferência da Apple neste mês, quando ela apresentou o Apple Intelligence, o vice-presidente sênior de engenharia de software da empresa, Craig Federighi, compartilhou como ele poderia funcionar: Federighi recebeu um e-mail de um colega pedindo para adiar uma reunião, mas ele deveria assistir a uma peça de teatro naquela noite com sua filha. Seu telefone, então, acessou sua agenda, um documento contendo detalhes sobre a peça e um aplicativo de mapas para prever se ele chegaria atrasado à peça caso concordasse em participar de uma reunião em um horário posterior.
A Apple disse que estava se esforçando para processar a maioria dos dados de I.A. diretamente em seus telefones e computadores, o que impediria que outros, inclusive a Apple, tivessem acesso às informações. Mas para as tarefas que precisam ser transferidas para os servidores, disse a Apple, ela desenvolveu salvaguardas, incluindo a codificação dos dados por meio de criptografia e sua exclusão imediata.
A Apple também adotou medidas para que seus funcionários não tenham acesso aos dados, disse a empresa. A Apple também disse que permitiria que pesquisadores de segurança auditassem sua tecnologia para garantir que ela estivesse cumprindo suas promessas.
Leia também
O compromisso da Apple de eliminar os dados dos usuários de seus servidores a diferencia de outras empresas que mantêm os dados. Mas a Apple não foi clara sobre quais novas solicitações da Siri poderiam ser enviadas aos servidores da empresa, disse Matthew Green, pesquisador de segurança e professor associado de ciência da computação da Universidade Johns Hopkins, que foi informado pela Apple sobre sua nova tecnologia. Qualquer coisa que saia de seu dispositivo é inerentemente menos segura, disse ele.
A Apple disse que, quando o Apple Intelligence for lançado, os usuários poderão ver um relatório de quais solicitações estão deixando o dispositivo para serem processadas na nuvem.
Leia mais
Microsoft
A Microsoft está trazendo a IA para o laptop antigo.
Na semana passada, ela começou a lançar computadores Windows chamados Copilot+ PC, que custam a partir de US$ 1 mil. Os computadores contêm um novo tipo de chip e outros equipamentos que, segundo a Microsoft, manterão seus dados privados e seguros. Os PCs podem gerar imagens e reescrever documentos, entre outros novos recursos com tecnologia de IA.
A empresa também apresentou o Recall, um novo sistema para ajudar os usuários a encontrar rapidamente documentos e arquivos em que trabalharam, e-mails que leram ou sites em que navegaram. A Microsoft compara o Recall a ter uma memória fotográfica incorporada em seu PC.
Para usá-lo, você pode digitar frases casuais, como “Estou pensando em uma chamada de vídeo que tive com Joe recentemente, quando ele estava segurando uma caneca de café ‘I Love New York’”. O computador recuperará a gravação da chamada de vídeo que contém esses detalhes.
Para isso, o Recall faz capturas de tela a cada cinco segundos do que o usuário está fazendo na máquina e compila essas imagens em um banco de dados pesquisável. As capturas de tela são armazenadas e analisadas diretamente no PC, de modo que os dados não são revisados pela Microsoft nem usados para aprimorar sua IA, informou a empresa.
Leia mais
Ainda assim, os pesquisadores de segurança alertaram sobre os possíveis riscos, explicando que os dados poderiam facilmente expor tudo o que você já digitou ou visualizou se fossem hackeados. Em resposta, a Microsoft, que pretendia lançar o Recall na semana passada, adiou seu lançamento indefinidamente.
Os PCs vêm equipados com o novo sistema operacional Windows 11, da Microsoft. Ele tem várias camadas de segurança, disse David Weston, um executivo da empresa que supervisiona a segurança.
No mês passado, o Google também anunciou um conjunto de serviços de IA.
Leia mais
Uma de suas maiores revelações foi um novo detector de fraudes para chamadas telefônicas com tecnologia de IA. A ferramenta ouve as chamadas telefônicas em tempo real e, se a pessoa que está ligando parecer um golpista em potencial (por exemplo, se ela pedir uma senha bancária), a empresa avisa o usuário. O Google disse que as pessoas teriam que ativar o detector de fraudes, que é totalmente operado pelo telefone. Isso significa que o Google não ouvirá as chamadas.
O Google anunciou outro recurso, o Ask Photos, que requer o envio de informações para os servidores da empresa. Os usuários podem fazer perguntas como “Quando minha filha aprendeu a nadar?” para que apareçam as primeiras imagens de seus filhos nadando.
O Google disse que seus funcionários poderiam, em casos raros, analisar as conversas do Pergunte às Fotos e os dados das fotos para lidar com abusos ou danos, e que as informações também poderiam ser usadas para ajudar a melhorar o aplicativo de fotos. Em outras palavras, sua pergunta e a foto de seu filho nadando poderiam ser usadas para ajudar outros pais a encontrar imagens de seus filhos nadando.
O Google disse que sua nuvem foi bloqueada com tecnologias de segurança, como criptografia e protocolos para limitar o acesso dos funcionários aos dados.
Leia também
“Nossa abordagem de proteção à privacidade se aplica aos nossos recursos de I.A., não importa se eles são alimentados no dispositivo ou na nuvem”, disse Suzanne Frey, executiva do Google que supervisiona a confiança e a privacidade, em um comunicado.
Mas Green, o pesquisador de segurança, disse que a abordagem do Google em relação à privacidade da I.A. parecia relativamente opaca.
“Não gosto da ideia de que minhas fotos muito pessoais e minhas pesquisas muito pessoais estejam indo para uma nuvem que não está sob meu controle”, disse ele.