No Instituto Nacional de Padrões e Tecnologia (NIST) - o laboratório do governo que deveria supervisionar as mais poderosas iniciativas de inteligência artificial (IA) do planeta - o mofo preto forçou alguns funcionários a deixar de seus escritórios.
Os pesquisadores tem dormido em seus laboratórios para proteger seus trabalhos durante frequentes apagões. Alguns funcionários têm que carregar discos rígidos para outros prédios, porque a internet instável não permite o envio de arquivos grandes, e um telhado com vazamentos obriga outros a usar lonas plásticas.
“Se soubéssemos que a chuva estava chegando, colocaríamos uma lona no microscópio”, disse James Fekete, que foi chefe da divisão de materiais e produtos químicos aplicados do NIST até 2018. “O vazamento foi suficiente para que estivéssemos preparados.”
O NIST está no centro dos ambiciosos planos do presidente Biden para supervisionar uma nova geração de modelos de IA ; a agência tem a tarefa de desenvolver testes para falhas de segurança e outros danos. No entanto, as restrições orçamentárias deixaram o laboratório de 123 anos com um quadro reduzido de funcionários e a maioria das instalações em seus campi principais em Gaithersburg, Maryland, e Boulder, Colorado, abaixo dos padrões aceitáveis de construção.
Entrevistas com mais de uma dúzia de funcionários atuais e ex-funcionários do NIST, funcionários do governo Biden, assessores do Congresso e executivos de empresas de tecnologia, juntamente com relatórios encomendados pelo governo, detalham uma enorme lacuna de recursos entre o NIST e as empresas de tecnologia que ele tem a tarefa de avaliar - uma discrepância que, segundo alguns, corre o risco de minar os ambiciosos planos da Casa Branca de estabelecer barreiras de proteção para a tecnologia em expansão.
Mesmo com a corrida para criar o novo Instituto de Segurança de IA dos EUA, a crise no laboratório está se tornando mais aguda. Recentemente, legisladores divulgaram um novo plano de gastos que reduziria o orçamento geral do NIST em mais de 10%, para US$ 1,46 bilhão. Embora os legisladores proponham investir US$ 10 milhões no novo instituto de IA, isso é uma fração das dezenas de bilhões de dólares que os gigantes da tecnologia, como Google e Microsoft, estão investindo na corrida para desenvolver a IA. É insignificante em comparação com a Grã-Bretanha, que investiu mais de US$ 125 milhões em seus esforços de segurança de IA.
Os cortes na agência “são uma ferida autoinfligida na corrida tecnológica global”, diz Divyansh Kaushik, diretor associado de tecnologias emergentes e segurança nacional da Federação de Cientistas Americanos.
Alguns membros da comunidade de IA temem que o subfinanciamento do NIST o torne vulnerável à influência do setor. As empresas de tecnologia estão contribuindo para a dispendiosa infraestrutura de computação que permitirá ao instituto examinar os modelos de IA. A Amazon anunciou que doaria US$ 5 milhões em créditos de computação. A Microsoft, um dos principais investidores da OpenAI, fornecerá equipes de engenharia e recursos de computação.
Os executivos de tecnologia, incluindo o CEO da OpenAI, Sam Altman, se comunicam regularmente com as autoridades do Departamento de Comércio sobre o trabalho de IA da agência. A OpenAI fez lobby junto ao NIST sobre questões de IA, de acordo com divulgações federais. O NIST perguntou à TechNet - um grupo de comércio do setor cujos membros incluem a OpenAI, o Google e outras grandes empresas de tecnologia - se suas empresas associadas poderiam aconselhar o AI Safety Institute.
O NIST também está buscando feedback de acadêmicos e grupos da sociedade civil sobre seu trabalho de IA. A agência tem um longo histórico de trabalho com uma variedade de partes interessadas para obter informações sobre tecnologias, disse o porta-voz do Departamento de Comércio, Charlie Andrews.
A equipe de IA trabalhará em escritórios bem equipados no campus de Gaithersburg, no escritório do Departamento de Comércio em Washington e no Centro Nacional de Excelência em Segurança Cibernética do NIST em Rockville, Maryland, disse Andrews.
Leia também
“O subfinanciamento crônico das instalações do NIST e o orçamento de manutenção criaram condições de trabalho inseguras e alimentaram ainda mais a impressão entre os pesquisadores de que a segurança não é uma prioridade”, disse o relatório da comissão de segurança do NIST, que foi encomendado após a morte em 2022 de um técnico de engenharia no laboratório de pesquisa de incêndio da agência.
Tetos com vazamento
O NIST é uma das agências científicas mais antigas do governo federal - com um dos menores orçamentos. Inicialmente chamado de National Bureau of Standards, começou no início do século 20, quando o Congresso percebeu a necessidade de desenvolver medições mais padronizadas em meio à expansão da eletricidade, do motor a vapor e das ferrovias.
Desde então, a agência tem desempenhado um papel fundamental no uso da pesquisa e da ciência para ajudar os EUA a aprender com as catástrofes e evitar novas. Seu trabalho se expandiu após a Segunda Guerra Mundial: ela desenvolveu uma versão inicial do computador digital, instrumentos cruciais da Corrida Espacial e relógios atômicos, que são a base do GPS.
Agora, os cientistas do NIST brincam que trabalham nos laboratórios mais avançados do mundo - da década de 1960. Ex-funcionários descrevem equipamentos científicos de última geração cercados por edifícios com décadas de idade que impossibilitam o controle da temperatura ou da umidade para a realização de experimentos críticos.
“Você vê poeira por toda parte porque as janelas não vedam”, disse o ex-diretor interino do NIST, Kent Rochford. “Você vê um balde pegando gotas de uma goteira no telhado. Você vê desumidificadores da Home Depot ou unidades de ar condicionado portáteis por toda parte.”
Mais de 60% das instalações do NIST não atendem aos padrões federais de condições aceitáveis de construção, de acordo com um relatório de fevereiro de 2023 encomendado pelo Congresso às Academias Nacionais de Ciências, Engenharia e Medicina. As condições ruins afetam a produção dos funcionários. Soluções alternativas e reparos do tipo “faça você mesmo” reduzem a produtividade da equipe de pesquisa em até 40%, de acordo com as entrevistas do comitê com funcionários durante uma visita ao laboratório.
Os problemas com as instalações também atrasaram o trabalho crítico em biometria, incluindo avaliações de sistemas de reconhecimento facial usados pelo FBI e outras agências de aplicação da lei. O centro de dados no prédio de 1966 que abriga esse trabalho recebe refrigeração inadequada, e os funcionários passam cerca de 30% de seu tempo tentando mitigar problemas com o laboratório, de acordo com os relatórios das academias. São necessárias interrupções programadas para manter os centros de dados que abrigam o trabalho de tecnologia, o que faz com que todas as avaliações biométricas fiquem off-line por um mês a cada ano.
Vazamentos e inundações destruíram um microscópio eletrônico no valor de US$ 2,5 milhões usado para pesquisa de semicondutores e danificaram permanentemente uma balança avançada chamada balança Kibble. A ferramenta ficou fora de operação por quase cinco anos.
Revolução de IA
Apesar dessas restrições, o NIST construiu uma reputação como um interrogador natural de sistemas de IA que avançam rapidamente.
Em 2019, a agência divulgou um estudo histórico confirmando que os sistemas de reconhecimento facial identificam erroneamente as pessoas de cor com mais frequência do que as pessoas brancas, lançando um escrutínio sobre a popularidade da tecnologia entre as autoridades policiais. Devido a restrições de pessoal, apenas algumas pessoas trabalharam nesse projeto.
Quatro anos depois, o NIST lançou as primeiras diretrizes sobre IA, consolidando sua reputação como líder governamental na tecnologia. Para desenvolver a estrutura, a agência se conectou com líderes do setor, da sociedade civil e de outros grupos, conquistando uma forte reputação entre várias partes quando os legisladores começaram a lidar com a tecnologia em rápida evolução.
O trabalho fez do NIST um lar natural para os esforços de equipe vermelha de IA do governo Biden e para o AI Safety Institute, que foram formalizados na ordem executiva de novembro. A vice-presidente Harris apresentou o instituto na Cúpula de Segurança de IA do Reino Unido em novembro. Mais de 200 organizações da sociedade civil, acadêmicos e empresas - incluindo a OpenAI e o Google - se inscreveram para participar de um consórcio dentro do instituto.
A porta-voz da OpenAI, Kayla Wood, disse em um comunicado que a empresa apoia o trabalho do NIST e que planeja continuar a trabalhar com o laboratório para “apoiar o desenvolvimento de medidas eficazes de supervisão de IA”.
De acordo com a ordem executiva, o NIST tem uma longa lista de iniciativas que precisa concluir até este verão, incluindo a publicação de diretrizes sobre como fazer a revisão de modelos de IA e o lançamento de uma iniciativa para orientar a avaliação dos recursos de IA. Em um discurso em dezembro na conferência de aprendizado de máquina NeurIPS, o principal consultor de IA da agência, Elham Tabassi, disse que esse seria um “prazo quase impossível”.
“É um problema difícil”, disse Tabassi, que recentemente foi nomeado diretor de tecnologia do AI Safety Institute. “Não sabemos muito bem como avaliar a IA”.
A equipe do NIST trabalhou “incansavelmente” para concluir o trabalho que lhe foi atribuído pela ordem executiva de IA, disse Andrews, porta-voz do Departamento de Comércio.
A secretária de Comércio, Gina Raimondo, pediu ao Congresso que alocasse US$ 10 milhões para o AI Safety Institute durante um evento no Atlantic Council em janeiro. O governo Biden também solicitou mais recursos para as instalações do NIST, incluindo US$ 262 milhões para segurança, manutenção e reparos. Os apropriadores do Congresso responderam cortando o orçamento das instalações do NIST.
O pedido do governo está muito abaixo das recomendações do estudo das academias nacionais, que solicitou ao Congresso que fornecesse de US$ 300 milhões a US$ 400 milhões em financiamento anual adicional ao longo de 12 anos para superar o acúmulo de danos às instalações. O relatório também pede de US$ 120 milhões a US$ 150 milhões por ano, no mesmo período, para “estabilizar os efeitos de mais deterioração e obsolescência”.
Ross B. Corotis, que presidiu o comitê das academias que produziu o relatório sobre as instalações, disse que o Congresso precisa garantir que o NIST seja financiado porque ele é o “laboratório de referência” quando surge uma nova tecnologia, seja ela de chips ou de IA.
“A menos que você construa um laboratório totalmente novo para alguma questão específica, você recorrerá primeiro ao NIST”, disse Corotis. “E o NIST precisa estar pronto para isso.”
Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.
