📸 Créditos da imagem: Unsplash
Contexto
Uma funcionária de supermercado na Austrália, com cerca de 30 anos de experiência, recebeu uma advertência formal por escrito após um sistema de inteligência artificial registrar uma taxa de erros de apenas 0,18% no registro de produtos.
Como funciona a IA
O sistema utilizava câmeras sobre os caixas para comparar os itens que passavam pela área de registro com aqueles identificados pelo leitor de códigos de barras. Quando detectava divergências, gerava um registro que poderia ser usado para avaliar o desempenho do funcionário.
Repercussão
O caso foi denunciado por um dirigente sindical e chamou a atenção de um relatório do Human Technology Institute, que alerta para a expansão de sistemas de vigilância automatizada em diversos setores.
Propostas de mudança
Especialistas defendem novas regras que garantam que a vigilância profissional seja justa, proporcional e razoável, incluindo a participação dos trabalhadores nas decisões sobre monitoramento e a criação de mecanismos para contestar avaliações automatizadas.
- Taxa de erro de 0,18% equivale a uma equivocação a cada 533 itens.
- O sistema enviou os dados diretamente à sede da empresa sem avaliação prévia.
- Somente 9% dos trabalhadores sabem que são monitorados em seu próprio emprego.
- O uso de IA não deve substituir a avaliação humana em decisões importantes.
📰 Leia a notícia completa em: Gizmodo »