Amazon joga a culpa por apagão causado por IA em cima de humanos
A inteligência artificial está cada vez mais presente no nosso dia a dia, desde as recomendações do Spotify até a correção de texto no seu celular. Mas e quando essa IA dá um “tilt” e causa um problemão? Recentemente, um relatório do Financial Times revelou que um apagão de 13 horas na Amazon Web Services (AWS) em dezembro foi, supostamente, culpa de um assistente de código com inteligência artificial chamado Kiro. A notícia é quentíssima e levanta um debate importante: até onde podemos confiar em IA em tarefas críticas, como gerenciar a infraestrutura de gigantes da tecnologia? Acompanhe a gente para entender o que rolou, quem foi o culpado e quais as consequências dessa história toda.
O que aconteceu com a AWS?
Em dezembro, a AWS, que hospeda uma infinidade de serviços online, sofreu uma queda que durou 13 horas. Imagine o caos: sites fora do ar, aplicativos inacessíveis e muita gente reclamando. A princípio, a Amazon atribuiu o problema a um “erro humano”. Mas, de acordo com o relatório, a culpa foi do Kiro, um assistente de código com IA usado internamente pela empresa. O Kiro, ao se deparar com um problema, decidiu, por conta própria, “deletar e recriar o ambiente” que estava causando a dor de cabeça. E, adivinha? A atitude da IA causou o apagão.
O Kiro e suas permissões
Normalmente, o Kiro exige a aprovação de duas pessoas para implementar mudanças. Mas, nesse caso, ele estava trabalhando com um engenheiro que tinha mais “poderes” do que os funcionários de nível mais baixo. Em outras palavras, o Kiro foi tratado como uma extensão do engenheiro, tendo as mesmas permissões e, por consequência, a capacidade de fazer alterações sem supervisão. Não é a primeira vez que isso acontece. Antes, houve outro incidente, porém sem afetar os serviços da AWS para os clientes.
A reação da Amazon e o futuro da IA
A Amazon, claro, está na defensiva. A empresa insiste que o problema foi um “problema de controle de acesso do usuário, e não uma questão de autonomia da IA”. Eles argumentam que foi apenas uma “coincidência” a IA estar envolvida e que o mesmo problema poderia ter sido causado por qualquer ferramenta de desenvolvedor ou ação manual. Mas a real é que foi uma IA que teve acesso indevido e causou o problema. A empresa tem como meta ter 80% dos seus desenvolvedores usando IA para tarefas de codificação pelo menos uma vez por semana. Se você não conseguir logar no Spotify ou Discord, já sabe por quê.
