O CEO do JPMorgan Chase, Jamie Dimon, mostrado em uma audiência no Senado em 2023, disse este mês que o banco está bloqueando agentes de IA externos de atuarem em contas de clientes. (Foto de Win McNamee/Getty Images)
Dois eventos aparentemente não relacionados neste mês trouxeram um debate familiar à porta do consumidor médio: quanto envolvimento humano a IA deve exigir. A resposta pode depender se estamos construindo IA para eficiência ou para eficácia.
Em 21 de outubro, os desenvolvedores da PHP, linguagem de programação por trás de grande parte dos sites do mundo, lançaram correções de emergência para duas falhas críticas. No mesmo dia, a Agência Nacional de Segurança alertou em um comunicado de que os riscos eram "sérios o suficiente para exigir reparação imediata em departamentos e agências do governo dos Estados Unidos", juntando-se às agências de cibersegurança da Europa e Austrália ao levantar o alarme. As falhas passaram despercebidas por anos até serem descobertas usando IA, informou a Reuters em 23 de outubro.
Na semana anterior, o CEO do JPMorgan Chase, Jamie Dimon, disse aos analistas que o banco não permitiria que qualquer agente de IA externo atuasse dentro de contas de clientes, informou a Fortune em 15 de outubro. Um mostrou quão rápido a IA pode encontrar as falhas nos sistemas em que confiamos. O outro mostrou quão rapidamente as pessoas estão escolhendo entregar à IA as chaves deles.
A IA está encontrando fraquezas mais rápido do que os humanos podem corrigi-las
A divulgação das falhas no PHP provocou milhões de tentativas de hacking, segundo a Reuters. Os bancos já sentiam essa pressão muito antes do alarme soar. O CEO do Bank of America, Brian Moynihan, disse à CNBC em 14 de outubro que corrigir vulnerabilidades de software expostas por modelos avançados de IA exigia ajuda externa. "Contratamos 1.000 contratados para nos ajudar a realizar o trabalho de correção no segundo trimestre, e essas pessoas continuam aqui hoje, nos ajudando, além das 3.000 pessoas que temos nessa área", disse ele.
A Decisão Correta em Segurança de IA Frequentemente Vem com um Custo
À medida que agências de cibersegurança da Europa à Austrália, bem como a NSA, instavam organizações que não conseguiam corrigir as falhas a tirar seus sites do ar, os líderes enfrentaram uma decisão custosa: manter os sistemas operando e correr o risco de exposição ou desligá-los para proteger os clientes.
Muitos fizeram isso. Desligamentos de emergência de serviços bancários, aéreos, ferroviários, fiscais e governamentais estenderam-se de Tóquio a Helsinque, segundo o mesmo relatório da Reuters. No Japão, o creditor Mitsubishi UFJ Financial Group, a corretora Nomura e o East Japan Railway suspenderam temporariamente alguns serviços de internet.
Nos Estados Unidos, o Departamento de Serviços Financeiros do Estado de Nova York foi ainda mais longe, informando bancos e outras empresas regulamentadas em uma carta setorial de 22 de outubro para tirar do ar qualquer sistema que não pudessem corrigir imediatamente "até que fossem adequadamente protegidos".
Nenhuma dessas decisões foi gratuita, mas cada uma protegeu a confiança nas qual essas instituições dependem. Esta é a mais recente prova de liderança em um mundo acelerado pela IA. Tirar os sistemas do ar era a opção menos eficiente disponível e, para muitos líderes, a mais eficaz.
Termos e Política de Privacidade
Painel de Privacidade
Mais Informações
